“Mitigar o risco de extinção a partir da inteligência artificial (IA) deve ser uma prioridade global, juntamente com outros riscos em escala social, como pandemias e guerra nuclear”. Essa é a curta mensagem divulgada pelo Center for AI Safety (CAIS) nesta terça-feira, 30, assinada por cientistas especialistas em IA, acadêmicos, CEOs e outras figuras públicas, totalizando mais de 350 pessoas. De acordo com os signatários, a IA pode causar riscos de extinção para o mundo.
Entre os signatários da mensagem de pouco mais de 20 palavras estão figuras como Sam Altman, CEO da OpenAI, criadora do ChatGPT, e Demis Hassabis, CEO do Google DeepMind, o laboratório de pesquisa em IA da big tech americana. Também há nomes como Dario Amodei, CEO da Anthropic, e Geoffrey Hinton e Yoshua Bengio, pioneiros da IA.
O CAIS é uma organização sem fins lucrativos, financiada de forma privada, cuja missão é reduzir os riscos em escala social da IA. Antes da mensagem coletiva, o centro menciona que especialistas em IA, jornalistas, formuladores de políticas e o público estão discutindo cada vez mais os riscos “importantes e urgentes” associados às tecnologias de IA.
“Mesmo assim, pode ser difícil expressar preocupações sobre alguns dos riscos mais graves da IA avançada”, escreve o CAIS. A declaração tem como objetivo superar esse obstáculo e abrir a discussão, além de criar conhecimento comum sobre o crescente número de especialistas e figuras públicas preocupados com alguns dos riscos mais graves da IA avançada.
No Twitter, Dan Hendrycks, diretor do CAIS, falou mais sobre a mensagem. Ele disse que, além dos riscos de extinção da humanidade, existem muitos outros, como, por exemplo, viés sistêmico, desinformação, uso malicioso, ataques cibernéticos e armamento. Ele ressalta que a sociedade é capaz de gerenciar vários riscos ao mesmo tempo. “Do ponto de vista da gestão de riscos, assim como seria imprudente priorizar exclusivamente os danos presentes, também seria imprudente ignorá-los”, afirmou.
“Pesquisadores de IA das principais universidades do mundo assinaram a declaração de extinção da IA, uma situação que lembra cientistas atômicos emitindo avisos sobre as próprias tecnologias que criaram. Como observou Robert Oppenheimer [um desses cientistas]: ‘Sabíamos que o mundo não seria o mesmo’”, escreveu Hendrycks.
