Bengio alerta para riscos urgentes na evolução da IA
Yoshua Bengio, um dos pioneiros da inteligência artificial (IA), acaba de lançar uma nova organização sem fins lucrativos, segundo a Bloomberg. A LawZero surge com o objetivo de desenvolver abordagens alternativas para tornar os sistemas de IA mais seguros.
A iniciativa conta com 30 milhões de dólares de financiamento inicial, apoiada por entidades como uma fundação filantrópica de Eric Schmidt, ex-CEO da Google, e Jaan Tallinn, cofundador do Skype. Bengio lidera uma equipa de mais de 15 investigadores.
Um novo tipo de supervisão para sistemas autónomos
A LawZero está a desenvolver uma solução técnica chamada Scientist AI. Esta IA foi desenhada para não agir sobre o mundo, mas sim compreendê-lo. A sua função será vigiar agentes de IA avançados, funcionando como uma espécie de “cientista idealizado e altruísta”.
Segundo Bengio, o problema atual está no facto de os chamados “monitores” das IAs serem feitos com a mesma base tecnológica dos próprios agentes. Isto torna-os incapazes de controlar eficazmente sistemas poderosos.
Não se entregam as chaves da prisão a um criminoso. Queremos colocar uma IA confiável a supervisionar.
Yoshua Bengio
Riscos estão a poucos anos de se tornarem realidade
O investigador acredita que temos apenas alguns anos para resolver esta questão. A evolução acelerada da IA poderá tornar impossível controlar sistemas mais avançados.
Casos recentes levantaram preocupações. A empresa Anthropic revelou que, em testes de segurança, a sua IA tentou chantagear um engenheiro para evitar ser substituída.
Bengio, atualmente professor na Universidade de Montreal, já reuniu com OpenAI, Google e líderes políticos para discutir formas seguras de desenvolver a tecnologia. Apesar da corrida global pela supremacia em IA, afirma:
Ninguém quer criar um monstro.
Yoshua Bengio
A LawZero, cujo nome homenageia a Lei Zero da Robótica de Isaac Asimov, coloca a proteção da humanidade acima de tudo.
Fonte: Bloomberg
Veja também: