18 Agosto 2017
O Facebook está fazendo testes com inteligência artificial e acabou se deparando com uma situação bem surpreendente. Foi o seguinte: os pesquisadores responsáveis pelo projeto criaram vários bots que deviam interagir entre si. A função deles era realizar negócios e, para isso, eles foram dotados com a habilidade de barganhar, negociar e argumentar. Tudo para convencer o outro bot a fechar negócio com ele.
Os bots foram programados para se comunicar em inglês. Porém, à medida que eles conversavam e negociavam, os pesquisadores perceberam que as inteligências artificiais começaram a usar frases que não faziam muito sentido para os humanos. A despeito disso, as negociações continuavam normalmente.
Veja um exemplo da conversa. Os bots "Alice" e "Bob" estavam negociando. Então, Bob fala o seguinte: "Eu posso eu eu e todo o resto". Ao que Alice responde: "bolas têm zero para mim para mim para mim...". Para nós, humanos, essas sentenças não fazem o menor sentido. Porém, para os bots a conversa continuou sem problema algum.
Para os pesquisadores isso aconteceu por que os bots buscaram uma forma mais simples de se comunicar. E, por isso, eles foram aos poucos abandonando a complexidade do idioma inglês. Assim, a tendência é que a inteligência artificial criasse códigos cada vez mais simples para se comunicar. O problema é que isso seria um novo idioma, entendido apenas por eles.
Dhruv Batra, um dos pesquisadores envolvidos no projeto disse:
Os agentes deixarão de usar linguagem compreensível e inventarão palavras-código para eles mesmos. Como se eu disser ‘o’ cinco vezes e você interpretar isso como eu querendo cinco cópias desse item. Isso não é tão diferente da forma como comunidades de humanos criaram a estenografia.
Porém, o desligamento da inteligência artificial não ocorreu por medo de uma possível Skynet. Mas sim por que o projeto perdeu o seu propósito. O objetivo dos cientistas era aprender padrões de negociação para que estes fossem usados em conversas reais. Como os bots deixaram de conversar estritamente em inglês, tais padrões não poderiam ser aprendidos.
Tal evento pode ter dado razão à Elon Musk, que disse que a IA é uma grande ameaça à vida humana e deve ser regulamentada. Isso causou uma pequena discussão entre o CEO da Tesla e Mark Zuckerberg, dono do Facebook. Além disso, não é a primeira vez que uma IA causa espanto. O que dizer da IA da Microsoft dizer que prefere Linux à Windows?
Comentários