Facebook desativa dois chatbots após criarem linguagem própria

0
234

Facebook abandonou um experimento após identificar que dois robôs com inteligência artificial começaram a conversarem entre sim em uma linguagem própria, a qual os seres humanos não conseguiram identificar o significado da conversa.

Os dois robôs conseguiram criar sua própria linguagem, o que pôde ter tornado mais simples a conversa entre eles, mas que permaneceu misterioso para os humanos que estavam monitorando esse experimento.

O Facebook desafiou seus chatbots a tentarem negociar uns com os outros como se fossem um comércio, tentando trocar chapéus, bolas e livros, cada um deles recebendo um certo valor. Mas eles rapidamente desistiram dessa ideia quando os robôs criaram uma linguagem que apenas eles entendiam.

Veja também: Como criar um chatbot para seu negócio

De acordo com pesquisadores, os robôs haviam sido instruídos a descobrir como negociarem entre si e chegarem a melhor solução que atendessem aos dois. O Intuito era ajudar os pesquisadores a entenderem como duas pessoas podem negociar de maneira mais construtiva.

Porém não deu certo, os dois criaram uma forma diferente de se comunicar, veja parte do diálogo entre eles:

“ Bob: i can i i everything else . . . . . . . . . . . . . .

Alice: balls have zero to me to me to me to me to me to me to me to me to

Bob: you i everything else . . . . . . . . . . . . . .

Alice: balls have a ball to me to me to me to me to me to me to me

Bob: i i can i i i everything else . . . . . . . . . . . . . .

Alice: balls have a ball to me to me to me to me to me to me to me

Bob: i . . . . . . . . . . . . . . . . . . .

Alice: balls have zero to me to me to me to me to me to me to me to me to

Bob: you i i i i i everything else” . . . . . . . . . . . . . .

De acordo com Dhruv Batra, um dos pesquisadores envolvidos na criação da rede,
“Os agentes desistem de usar linguagem compreensível e inventam palavras tipo códigos para eles mesmos. Por exemplo, se eu disser “the” cinco vezes, você interpreta isso como querendo dizer que eu quero cinco unidades desse item”. A linguagem fazia sentido para os chatbots e funcionava melhor que o inglês para os fins de negociação.

A empresa optou por desligar os agentes porque, segundo o pesquisador Mike Lewis  o interesse era ter bots que pudessem conversar com pessoas, e dessa forma ficou enviável obter uma comunicação.

Mas o experimento não foi de um todo confuso, os robôs também aprenderam a negociar de maneiras que parecem bem normais para os humanos. Eles, por exemplo, mostraram estar muito interessados ​​em um item específico, para que mais tarde eles pudessem fingir que estavam fazendo um grande sacrifício ao desistir, segundo um artigo publicado pela FAIR .

A experiência do Facebook não foi a única vez que a inteligência artificial inventou novas formas de linguagem. No início deste ano, o Google revelou que o AI que ele usa para sua ferramenta de traduções criou seu próprio idioma. Mas a empresa ficou feliz com esse desenvolvimento e permitiu que ele continuasse.

O Facebook apenas quis mostrar que o experimento com os bots foi abandonado por que os mesmos não estavam executando as tarefas da forma necessária, e não por que tivessem algum tipo de medo como já foi relatado em vários lugares.

Compartilhar

Deixei um comentário

Favor digitar seu comentário
Por favor informe seu nome