OpenAI, Anthropic e Google buscam criar órgão de supervisão de riscos da IA

Inteligência artificialOpenAI, Anthropic e Google buscam criar órgão de supervisão de riscos da IAOpenAI, Anthropic e Google DeepMind trabalham na criação de um órgão de supervisão dos riscos relacionados à inteligência artificial, informou a OpenAI à AFP hoje, em meio a apelos crescentes por um maior controle dessa tecnologia. As preocupações com a segurança da inteligência artificial se intensificaram nas últimas semanas, incluindo alertas de dois funcionários que deixaram grandes desenvolvedoras de IA devido à ameaça que, segundo eles, essa indústria representa para a humanidade. Os grandes atores da IA vêm pedindo há meses ao governo dos Estados Unidos a criação de um marco regulatório para o setor e maior supervisão de sua segurança. A ideia de uma entidade de supervisão foi proposta em julho por Demis Hassabis, cofundador e diretor-executivo do Google DeepMind, que sugeriu uma entidade semelhante à Autoridade Reguladora da Indústria Financeira dos Estados Unidos, um órgão de autorregulação do setor.”O financiamento teria que ser significativo e provavelmente vir em grande parte da indústria”, escreveu Hassabis, acrescentando que seria necessário atrair profissionais com conhecimento técnico e dispor de grandes recursos computacionais para realizar testes em larga escala. O governo dos Estados Unidos iniciou em agosto um processo de avaliação dos novos modelos de IA, embora a participação seja voluntária e sua metodologia não tenha sido divulgada. Após os apelos feitos no sábado por Dario Amodei, diretor-executivo da Anthropic, desenvolvedora do chatbot Claude, para desacelerar o desenvolvimento da IA, o presidente dos Estados Unidos, Donald Trump, reiterou que não pretende limitar o setor.”Que a IA assuma o controle do mundo, destrua a humanidade e todas essas coisas ruins é uma FARSA”, escreveu Trump em sua plataforma Truth Social ontem. O presidente e integrantes de seu governo reiteraram que não pretendem limitar a IA por temerem que a China assuma a liderança. As empresas de IA estão “brincando com nossas vidas”, advertiu na semana passada Jacob Coxon ao deixar seu cargo de desenvolvedor na Anthropic. Ontem, o ex-pesquisador do Google DeepMind Bilal Chughtai reiterou as preocupações levantadas por Coxon e outros.”Acredito sinceramente que a IA tem o potencial de matar todos nós e que talvez estejamos ficando sem tempo para evitar esse desfecho”, declarou nas redes sociais. O autor da mensagem, e não o, é o responsável pelo comentário. Leia as Regras de Uso do.