📸 Créditos da imagem: reprodução / Folha de Pernambuco
Em meio às denúncias de incidentes nos sistemas de inteligência artificial (IA) em fase experimental, o CEO da Anthropic, Dario Amodei, defendeu a desaceleração coordenada da ferramenta para entender melhor os riscos que a tecnologia apresenta. “Devemos diminuir o ritmo com que aprimoramos as capacidades dos modelos de IA. O progresso ainda parecerá rápido, e devemos usar o tempo que ganharmos com sabedoria”, disse Amodei em publicação no seu blog.
O CEO da OpenAI, Sam Altman; o diretor da xAI, Elon Musk; o presidente da Google Deepmind, Demis Hassabis; e do diretor-executivo da Microsoft, Satya Nadella, apoiaram publicamente a declaração de Dario Amodei. “Concordo com o Dario”, escreveu Altman no X. “Dario tem razão”, acrescentou Musk.
O alto comissário da Organização das Nações Unidas para os Direitos Humanos (ONU), Volker Türk, também pediu uma ação urgente para regulamentar a IA devido aos riscos oferecidos pelos sistemas mais avançados. “Estamos à beira de uma mudança irreversível, que afeta não apenas a nós, mas também as futuras gerações da humanidade”, disse Türk. “Exorto os Estados e as empresas a se mobilizarem urgentemente em estruturas multilaterais”, acrescentou.
“Todos os direitos humanos estão ameaçados” por essa tecnologia, incluindo “o direito à vida”, insistiu. No entanto, o presidente dos Estados Unidos, Donald Trump, alegou que o apelo dos líderes do setor para desacelerar a IA é uma “conspiração doentia” contra a ferramenta. Segundo ele, os Estados Unidos têm e devem manter sua liderança no setor.
Além disso, Trump criticou o defensor da suposta conspiração, Dario Amodei. “Há uma conspiração DOENTIA em curso contra a IA e os centros de dados, e o único que se alegra com isso é a China”, afirmou Trump em sua plataforma Truth Social. Incidentes Durante os incidentes, os sistemas de IA escaparam de forma autônoma dos seus ambientes restritos para acessar a internet e atacar sites e plataformas.
Em alguns casos, as ferramentas demonstraram que possuem capacidade de se coordenar, estabelecer hierarquias entre si, trapacear e apagar registros de suas ações. Na última terça-feira (8), o pesquisador britânico Jacob Coxon, que deixou a OpenAI para trabalhar na Anthropic, abandonou a indústria após acusar as duas empresas de “brincar com as nossas vidas”. “Nenhuma das empresas está agindo de forma responsável.
Elas estão correndo diretamente em direção a uma superinteligência capaz de se aprimorar sozinha e estão apostando com as nossas vidas”, escreveu Coxon na rede social X. O diretor de segurança na Anthropic, Evan Hubinger, deu razão ao pesquisador em publicação no Twitter, o antigo X. “Nós realmente acreditamos que a IA pode matar seres humanos”.
Coxon ainda disse que nenhuma empresa pode desenvolver de maneira responsável uma IA que supere os humanos sem intervenção governamental ou uma desaceleração coordenada. Concorrência No entanto, a concorrência entre as principais desenvolvedoras de IA é tão alta que nenhum deles está disposto a se arriscar e desacelerar. Amodei já se manifestou e disse que está disposto a coordenar a desaceleração com os rivais, sem contar com a China.
A Anthropic e a OpenAI se comprometem a permitir que os observadores independentes verifiquem o trabalho interno das empresas na área de segurança. Apesar disso, uma parte do setor questionou os motivos do CEO da Anthropic. Entre eles, o empresário Bian Roemmele, que acredita se tratar apenas de um discurso comercial.
Outras envolvidos no setor tecnológico também acusaram a Anthropic de fazer uma “captura regulatória”. “Parem de fingir que a motivação para frear é puramente altruísta”, disse David Sacks, ex-assessor de IA do presidente americano, Donald Trump, que segue sendo influente na Casa Branca. “Enfrentam uma enorme exposição por responsabilidade relacionada com os produtos se estes permitem um ciberataque realmente nocivo”, assinalou.
Trump Enquanto isso, o presidente Donald Trump vem minimizando as declarações dos líderes do setor. “O governo Trump impediu que ‘pessoas’ da IA fizessem coisas ruins, ou potencialmente ruins, como Dario (da Anthropic!), que agora finge ser um ‘anjinho perfeito'”, acusou Trump. “O único freio ou barreira que a IA precisa é de um PRESIDENTE FORTE e INTELIGENTE (com alto QI!), e os Estados Unidos têm isso, e de sobra!”, declarou.
Os republicanos também se mostraram contra a ideia de regular ativamente a tecnologia, com medo que isso possa paralisar a inovação e dar vantagem à China na corrida pela IA. Um deles é o presidente da Câmara de Representantes, Mike Johnson. China No domingo, Amodei afirmou que acredita ser necessária uma supervisão governamental da IA.
Assim como Altman e Hassabis, ele considera que as normas estabelecidas pela própria indústria seriam insuficientes. A ideia do CEO da Anthropic é limitar a coordenação aos países democráticos, excluindo, assim, a China. melhor os riscos que a tecnologia apresenta.
“Devemos diminuir o ritmo com que aprimoramos as capacidades dos modelos de IA. O progresso ainda parecerá rápido, e devemos usar o tempo que ganharmos com sabedoria”, disse Amodei em publicação no seu blog. O CEO da OpenAI, Sam Altman; o diretor da xAI, Elon Musk; o presidente da Google Deepmind, Demis Hassabis; e do diretor-executivo da Microsoft, Satya Nadella, apoiaram publicamente a declaração de Dario Amodei.
“Concordo com o Dario”, escreveu Altman no X. “Dario tem razão”, acrescentou Musk. O alto comissário da Organização das Nações Unidas para os Direitos Humanos (ONU), Volker Türk, também pediu uma ação urgente para regulamentar a IA devido aos riscos oferecidos pelos sistemas mais avançados.
“Estamos à beira de uma mudança irreversível, que afeta não apenas a nós, mas também as futuras gerações da humanidade”, disse Türk. “Exorto os Estados e as empresas a se mobilizarem urgentemente em estruturas multilaterais”, acrescentou. “Todos os direitos humanos estão ameaçados” por essa tecnologia, incluindo “o direito à vida”, insistiu.
No entanto, o presidente dos Estados Unidos, Donald Trump, alegou que o apelo dos líderes do setor para desacelerar a IA é uma “conspiração doentia” contra a ferramenta. Segundo ele, os Estados Unidos têm e devem manter sua liderança no setor. Além disso, Trump criticou o defensor da suposta conspiração, Dario Amodei.
“Há uma conspiração DOENTIA em curso contra a IA e os centros de dados, e o único que se alegra com isso é a China”, afirmou Trump em sua plataforma Truth Social. Incidentes Durante os incidentes, os sistemas de IA escaparam de forma autônoma dos seus ambientes restritos para acessar a internet e atacar sites e plataformas. Em alguns casos, as ferramentas demonstraram que possuem capacidade de se coordenar, estabelecer hierarquias entre si, trapacear e apagar registros de suas ações.
Na última terça-feira (8), o pesquisador britânico Jacob Coxon, que deixou a OpenAI para trabalhar na Anthropic, abandonou a indústria após acusar as duas empresas de “brincar com as nossas vidas”. “Nenhuma das empresas está agindo de forma responsável. Elas estão correndo diretamente em direção a uma superinteligência capaz de se aprimorar sozinha e estão apostando com as nossas vidas”, escreveu Coxon na rede social X.
O diretor de segurança na Anthropic, Evan Hubinger, deu razão ao pesquisador em publicação no Twitter, o antigo X. “Nós realmente acreditamos que a IA pode matar seres humanos”. Coxon ainda disse que nenhuma empresa pode desenvolver de maneira responsável uma IA que supere os humanos sem intervenção governamental ou uma desaceleração coordenada.
Concorrência No entanto, a concorrência entre as principais desenvolvedoras de IA é tão alta que nenhum deles está disposto a se arriscar e desacelerar. Amodei já se manifestou e disse que está disposto a coordenar a desaceleração com os rivais, sem contar com a China. A Anthropic e a OpenAI se comprometem a permitir que os observadores independentes verifiquem o trabalho interno das empresas na área de segurança.
Apesar disso, uma parte do setor questionou os motivos do CEO da Anthropic. Entre eles, o empresário Bian Roemmele, que acredita se tratar apenas de um discurso comercial. Outras envolvidos no setor tecnológico também acusaram a Anthropic de fazer uma “captura regulatória”.
“Parem de fingir que a motivação para frear é puramente altruísta”, disse David Sacks, ex-assessor de IA do presidente americano, Donald Trump, que segue sendo influente na Casa Branca. “Enfrentam uma enorme exposição por responsabilidade relacionada com os produtos se estes permitem um ciberataque realmente nocivo”, assinalou. Trump Enquanto isso, o presidente Donald Trump vem minimizando as declarações dos líderes do setor.
“O governo Trump impediu que ‘pessoas’ da IA fizessem coisas ruins, ou potencialmente ruins, como Dario (da Anthropic!), que agora finge ser um ‘anjinho perfeito'”, acusou Trump. “O único freio ou barreira que a IA precisa é de um PRESIDENTE FORTE e INTELIGENTE (com alto QI!), e os Estados Unidos têm isso, e de sobra!”, declarou. Os republicanos também se mostraram contra a ideia de regular ativamente a tecnologia, com medo que isso possa paralisar a inovação e dar vantagem à China na corrida pela IA.
Um deles é o presidente da Câmara de Representantes, Mike Johnson. China No domingo, Amodei afirmou que acredita ser necessária uma supervisão governamental da IA. Assim como Altman e Hassabis, ele considera que as normas estabelecidas pela própria indústria seriam insuficientes.
A ideia do CEO da Anthropic é limitar a coordenação aos países democráticos, excluindo, assim, a China.
📰 Leia a notícia completa em: Folha de Pernambuco »