OpenAI financia pesquisa sobre ‘moralidade da IA’

26 de Novembro de 2024 as 14h 14min

A OpenAI Inc., parte sem fins lucrativos da desenvolvedora do ChatGPT, deu uma bolsa de pesquisa para professores da Duke University para um projeto chamado “Pesquisa sobre a Moralidade da IA“.

Essa bolsa faz parte de uma iniciativa maior de três anos que vale US$ 1 milhão (aproximadamente R$ 5,8 milhões) e vai ajudar a investigar como a inteligência artificial pode ser usada em decisões morais em áreas como medicina, direito e negócios.

Walter Sinnott-Armstrong, professor de ética na Duke, é o principal responsável pelo projeto, junto com Jana Borg. Ambos já fizeram vários estudos sobre como a IA pode funcionar como um “GPS moral”, ajudando as pessoas a tomarem decisões mais éticas, como escolher quem deve receber um transplante de rim.

Ainda não se sabe muitos detalhes sobre essa pesquisa da OpenAI. Mas, de acordo com um comunicado à imprensa, o foco da pesquisa é ensinar algoritmos a prever julgamentos morais humanos em situações de conflitos morais.

Isso é desafiador para IA. Isso porque modelos de aprendizado de máquina, como os desenvolvidos pela OpenAI, são basicamente máquinas estatísticas que aprendem padrões usando uma grande quantidade de dados da internet.

Esses modelos podem prever qual palavra deve vir depois em uma frase, mas isso não significa que eles entendem coisas como ética ou empatia. A moralidade é algo subjetivo. Ela muda conforme cultura, contexto e experiências. E não há resposta única sobre ela.

Portanto, o desafio da OpenAI e dos pesquisadores da Duke não é apenas tecnológico, mas também ético e filosófico. Como ensinar a uma máquina algo que nem os humanos conseguem definir de forma igual? Até 2025, quando a bolsa terminar, talvez tenhamos uma resposta. Ou mais perguntas.

A Apple planeja reformular a Siri, deixando a assistente virtual mais parecida ao ChatGPT, da OpenAI, e Gemini Live, do Google. A “LLM Siri” (Siri com grande modelo de linguagem) permitiria que os usuários tivessem interações mais naturais e conversacionais com a Siri.

Parte do plano da Apple para incorporar IA no iPhone é melhorar a capacidade da Siri de lidar com tarefas mais avançadas. Para isso, a assistente teria habilidade “expandida” para interagir com aplicativos de terceiros. E usaria Apple Intelligence para resumir e escrever textos.

Fonte: DA REPORTAGEM