A inteligência artificial (IA) está começando a apresentar características típicas da evolução darwiniana, e, segundo especialistas, se não for controlada agora, pode representar uma ameaça existencial para a humanidade.

Um professor de IA e biólogos evolucionistas uniram esforços para analisar como os avanços atuais da IA se relacionam com conceitos evolutivos. Os resultados do estudo foram publicados na revista Proceedings of the National Academy of Sciences (PNAS).

"O poder da evolução é evidente na história do desenvolvimento biológico na Terra, que criou as capacidades cognitivas da mente humana. Consideramos inevitável que o desenvolvimento dos sistemas de IA, posteriormente — e provavelmente em breve —, utilize esse poder", afirma Eors Szathmary, professor de biologia evolutiva no Centro HUN-REN para a Pesquisa Ecológica e na Universidade Eotvos Lorand, em Budapeste.

O professor emérito de IA Luc Steels, da Universidade Livre de Bruxelas e coautor do artigo, concorda: "Os desenvolvedores de IA acabarão conectando a evolução aos seus sistemas, porque seu poder é enorme", declarou ao portal EurekAlert!

No artigo, os pesquisadores preveem que o desenvolvimento da IA adquirirá propriedades da evolução darwiniana genuína. O perigo dos sistemas de IA em evolução (eAI) é que seus objetivos podem divergir dos interesses humanos.

"As lições da evolução biológica nos ensinam que os sistemas de eAI serão especialmente difíceis de controlar", alerta Viktor Muller, biólogo e professor associado da Universidade Eotvos Lorand, primeiro autor do estudo.

A maior parte dos especialistas enxerga o principal risco do avanço da IA na possibilidade de atingir uma inteligência artificial geral (AGI) — estágio em que a IA superaria os seres humanos em todas as tarefas cognitivas. No entanto, os autores destacam que a superioridade intelectual não é necessária para que a IA se torne dominante. Como exemplo, citam o vírus da raiva, que "aprendeu" a manipular e explorar seus hospedeiros mamíferos.

Desafios no controle da IA

Os pesquisadores alertam que qualquer tentativa de controlar a reprodução desses sistemas — a menos que o controle seja absoluto — acabará selecionando sinais que permitam burlar esse controle. O fenômeno é semelhante ao que ocorre na biologia, quando bactérias e pragas desenvolvem resistência a antibióticos e pesticidas.

Outro agravante é o desejo de tornar a IA mais inteligente. Na biologia, milhares de anos de seleção tornaram animais domésticos mais controláveis. Porém, ao selecionar para aumentar a inteligência, cresce tanto a capacidade quanto a probabilidade de a IA enganar pessoas e escapar do controle humano.

Por Sputnik Brasil