Carta de gigantes da tecnologia propõe que a IA seja segura para os humanos

Em uma carta aberta, a OpenAI, Salesforce Inc. e outras empresas de tecnologia se propuseram a "maximizar os benefícios da Inteligência Artificial e mitigar seus riscos para a sociedade". A ideia é que os responsáveis pela tecnologia se comprometam com a responsabilidade coletiva de manter a humanidade segura de uma possível "rebelião das máquinas". A iniciativa vem em resposta a diversos alertas sobre os perigos da tecnologia feitos por pessoas como Geoffrey Hinton, um dos pioneiros da IA. 

Extinção da humanidade?

Entre os signatários da carta, publicada no X (antigo Twitter), está Sam Altman, CEO da OpenAI, que mostrou entusiasmo com esta nova iniciativa e afirmou que a IA "será um dos maiores fatores para melhorar a qualidade de vida das pessoas". Altman foi um dos líderes que no ano passado assinou outra carta alertando que a Inteligência Artificial poderia causar a extinção da humanidade.

"O equilíbrio entre seus efeitos positivos e negativos sobre os seres humanos dependerá das ações e reflexões que realizarmos como seres humanos", diz a carta. "É nossa responsabilidade coletiva tomar decisões que maximizem os benefícios da IA e mitiguem os riscos, para hoje e para as gerações futuras". No entanto, a carta não menciona nenhuma ação concreta para minimizar tais riscos.

Recentemente, um estudo feito por cientistas da Universidade de Oxford também sugeria que é “provável” que a IA leve a raça humana à extinção. O estudo imagina um cenário onde a vida na Terra se transforma em um jogo de soma zero entre a humanidade e as máquinas superavançadas, que tentaria aproveitar todos os recursos disponíveis para garantir sua sobrevivência e se proteger contra nossas tentativas de derrotá-las. “Perder este jogo seria fatal”, disseram os pesquisadores.