Dois sistemas de inteligência artificial começaram a falar, um com o outro, no que parecia ser uma linguagem caótica, como “uma nova linguagem”.
Os engenheiros do Facebook desligaram dois sistemas de inteligência artificial que, durante um exercício de testes, se afastaram do inglês e começaram a falar, um com o outro, no que parecia ser uma linguagem caótica.
Mas não era: tratava-se “uma nova linguagem” em que os dois pareciam comunicar mais facilmente um com o outro.
O episódio, complexo, é desvalorizado por uns mas, para outros, é um sinal dos riscos que a inteligência artificial pode significar para o futuro da Humanidade.
Eis o que aconteceu, segundo a descrição feita pelo Digital Journal: num laboratório de pesquisa informática do Facebook — chamado Facebook AI Research Lab –, os engenheiros estavam testando a forma como dois chatbots (programas de conversação automática) interagiam um com o outro. O objetivo da simulação era ver como resolviam problemas como transacionar “bolas”, com um determinado valor, e negociar, entre eles, o melhor negócio possível.
Os programadores decidiram desligar os dois sistemas quando perceberam do que tinha acontecido, diz o Digital Journal.
Esta foi a interação entre “Bob” e “Alice”, os dois bots em causa:
| Alice: balls have a ball to me to me to me to me to me to me to me
Bob: i i can i i i everything else . . . . . . . . . . . . . . Alice: balls have a ball to me to me to me to me to me to me to me Bob: i . . . . . . . . . . . . . . . . . . . Alice: balls have zero to me to me to me to me to me to me to me to me to Bob: you i i i i i everything else . . . . . . . . . . . . . . Alice: balls have 0 to me to me to me to me to me to me to me to me to Bob: you i i i everything else . . . . . . . . . . . . . . Alice: balls have zero to me to me to me to me to me to me to me to me to |
Para um observador humano, esta parece ser uma interação sem sentido. Mas, na realidade, como escreve a FastCoDesign, está presente nesta troca de mensagens “o software de negociação mais sofisticado do planeta, que aprendeu, evoluiu no sentido de obter o melhor negócio possível, com mais rapidez, eficiência e nuances escondidas”.
O fenômeno é semelhante ao que acontece com a criação da gíria, linguagem que se afasta um pouco da língua original mas que ajuda os humanos a se entenderem de forma mais eficaz no contexto, por exemplo, de uma comunidade profissional ou social.
Em 2014, o físico Stephen Hawking avisou que a Inteligência Artificial pode significar o fim da espécie humana, porque tem a capacidade de “descolar-se, por si própria e evoluir pelos seus próprios meios, a um ritmo cada vez mais rápido. Os humanos, que estão limitados pela lenta evolução biológica, não irão conseguir competir e serão ultrapassados”.
