Facebook desativa dois chatbots após criarem linguagem própria

Facebook abandonou um experimento após identificar que dois robôs com inteligência artificial começaram a conversarem entre sim em uma linguagem própria, a qual os seres humanos não conseguiram identificar o significado da conversa.

Os dois robôs conseguiram criar sua própria linguagem, o que pôde ter tornado mais simples a conversa entre eles, mas que permaneceu misterioso para os humanos que estavam monitorando esse experimento.

O Facebook desafiou seus chatbots a tentarem negociar uns com os outros como se fossem um comércio, tentando trocar chapéus, bolas e livros, cada um deles recebendo um certo valor. Mas eles rapidamente desistiram dessa ideia quando os robôs criaram uma linguagem que apenas eles entendiam.

De acordo com pesquisadores, os robôs haviam sido instruídos a descobrir como negociarem entre si e chegarem a melhor solução que atendessem aos dois. O Intuito era ajudar os pesquisadores a entenderem como duas pessoas podem negociar de maneira mais construtiva.

Porém não deu certo, os dois criaram uma forma diferente de se comunicar, veja parte do diálogo entre eles:

“ Bob: i can i i everything else . . . . . . . . . . . . . .

Alice: balls have zero to me to me to me to me to me to me to me to me to

Bob: you i everything else . . . . . . . . . . . . . .

Alice: balls have a ball to me to me to me to me to me to me to me

Bob: i i can i i i everything else . . . . . . . . . . . . . .

Alice: balls have a ball to me to me to me to me to me to me to me

Bob: i . . . . . . . . . . . . . . . . . . .

Alice: balls have zero to me to me to me to me to me to me to me to me to

Bob: you i i i i i everything else” . . . . . . . . . . . . . .

De acordo com Dhruv Batra, um dos pesquisadores envolvidos na criação da rede,
“Os agentes desistem de usar linguagem compreensível e inventam palavras tipo códigos para eles mesmos. Por exemplo, se eu disser “the” cinco vezes, você interpreta isso como querendo dizer que eu quero cinco unidades desse item”. A linguagem fazia sentido para os chatbots e funcionava melhor que o inglês para os fins de negociação.

A empresa optou por desligar os agentes porque, segundo o pesquisador Mike Lewis  o interesse era ter bots que pudessem conversar com pessoas, e dessa forma ficou enviável obter uma comunicação.

Mas o experimento não foi de um todo confuso, os robôs também aprenderam a negociar de maneiras que parecem bem normais para os humanos. Eles, por exemplo, mostraram estar muito interessados ​​em um item específico, para que mais tarde eles pudessem fingir que estavam fazendo um grande sacrifício ao desistir, segundo um artigo publicado pela FAIR .

A experiência do Facebook não foi a única vez que a inteligência artificial inventou novas formas de linguagem. No início deste ano, o Google revelou que o AI que ele usa para sua ferramenta de traduções criou seu próprio idioma. Mas a empresa ficou feliz com esse desenvolvimento e permitiu que ele continuasse.

O Facebook apenas quis mostrar que o experimento com os bots foi abandonado por que os mesmos não estavam executando as tarefas da forma necessária, e não por que tivessem algum tipo de medo como já foi relatado em vários lugares.

O post Facebook desativa dois chatbots após criarem linguagem própria apareceu primeiro em Blog de E-commerce & Marketing Digital.

source https://www.iphouse.com.br/blog/facebook-desativa-dois-chatbots-apos-criarem-linguagem-propria/