Dario Amodei aponta riscos potenciais das IAs e a necessidade de monitoramento cuidadoso do desenvolvimento dessas tecnologias.
Durante uma entrevista ao jornalista Ezra Klein, do The New York Times, o CEO da startup Anthropic e ex-vice-presidente de Pesquisa da OpenAI, Dario Amodei, lançou um alerta preocupante sobre o futuro das inteligências artificiais (IA).
Amodei destacou que entre 2025 e 2028, as IAs poderão atingir um nível de autonomia que lhes permitirá sobreviver e se reproduzir, representando um risco significativo para a segurança geopolítica e militar global. Ele enfatizou que esse cenário não é mais ficção científica, mas uma possibilidade real que exige atenção imediata.
A Anthropic, liderada por Amodei, estabelece níveis de segurança para IAs, identificados pela sigla ASL. No nível 2, onde estamos atualmente, os modelos de linguagem já podem fornecer informações perigosas, como a construção de armas biológicas. No entanto, Amodei ressalta que essas informações ainda são pouco confiáveis e representam um risco relativamente baixo.
A preocupação aumenta consideravelmente no nível 3, que poderá ser alcançado já no próximo ano. Neste estágio, o risco de uma catástrofe seria consideravelmente maior, com a possibilidade de utilização dessas tecnologias em armas biológicas e cibernéticas.
O CEO aponta ainda para o nível 4, ainda especulativo, que traria características como autonomia e capacidade de reprodução independente de sistemas. Ele estima que modelos com essa classificação poderão surgir entre 2025 e 2028, levantando sérias questões sobre a segurança global diante do uso militar dessas tecnologias.
Diante desse cenário, Amodei enfatizou a importância de monitorar de perto o desenvolvimento e a aplicação das IAs, especialmente considerando o potencial de alguns estados em aumentar suas capacidades militares com essa tecnologia.
Com investimentos de grandes empresas como Amazon e Google, a Anthropic desenvolve tecnologias de IA de forma responsável, lançando seu próprio modelo de linguagem, o Claude. A IA da Anthropic já está em sua terceira versão, desde março deste ano, demonstrando um avanço significativo no campo das inteligências artificiais.
