Empresa desliga chatbot após homem simular conversas com noiva morta

Por Rogerio Magno em 19/09/2021 às 10:58:05

Rohrer tentou mudar a decisão da empresa responsável pela quase perfeita interação dos chatbots, mas não conseguiu. E mais: a OpenAI pressionou o dev a desligar a tecnologia, alegando que havia pessoas treinando os robôs para “serem racistas ou puramente sexuais”, em clara desvirtuação do objetivo inicial de Samantha.

Ao recusar os termos propostos pela companhia para seguir usufruindo do projeto, que incluia ainda o uso de uma ferramenta de monitoramento das atividades, a OpenAI iniciou o desligamento remoto da tecnologia. A situação fez com que todos os bots construídos tendo como base o algoritmo de texto GPT-3 se tornassem menos inteligentes, convincentes e com bugs que impediam o funcionamento apropriado.

Dev não considera chatbot perigoso

This is a true story of how I used A.I. to simulate a conversation between myself and my dead fiancée, Jessica.

News outlet: @sfchronicle
Writer: @jfagone

Made possible using Project December, a gpt-3 chat-bot engine created by @jasonrohrer https://t.co/ftnAMqG4SB
— Joshua Barbeau (@JoshuaBarbeau) July 23, 2021

Ao site The Register, Rohrer declarou considerar “ridícula” a ideia de que chatbots possam ser perigosos.

“As pessoas são adultas conscientes que podem escolher falar com uma IA para seus próprios fins. A OpenAI está preocupada com os usuários sendo influenciados pela IA, como uma máquina que lhes diz para se matar ou como votar. É uma postura moralista”, defendeu o dev. O criador do "Project December" ainda afirma que a vantagem do robô é que o mesmo poderia “proporcionar a conversa mais privada possível”, sem haver envolvimento ou julgamentos de terceiros.

A OpenAI não respondeu ao pedido de comentário do The Register ou de outros veículos de comunicação, e nem se posicionou publicamente sobre o assunto de qualquer forma. Por meio do Twitter, o desenvolvedor anunciou que vai migrar da tecnologia GPT-3 para a G4, com o propósito de reformular Samantha e dar continuidade ao projeto.