Sem controle, modelos de IA representam 'risco existencial para humanidade', alerta ONU

Sem controle, modelos de IA representam ‘risco existencial para humanidade’, alerta ONUO alto-comissário da ONU (Organização das Nações Unidas) para os Direitos Humanos, Volker Türk, alertou nesta segunda-feira (7) para a necessidade de elaborar rapidamente mecanismos de governança da IA (Inteligência Artificial). Segundo ele, formas avançadas da tecnologia “podem representar um risco existencial para a humanidade”. Para Türk, quando uma IA escapa de seu ambiente de testes ou chantageia desenvolvedores para evitar ser desligada, “ela é uma IA poderosa demais”. A declaração foi feita na abertura da 63ª sessão do Conselho de Direitos Humanos, em Genebra.

Ele também pediu a adoção de salvaguardas sólidas para a segurança e a proteção dessas ferramentas, “antes que seja tarde demais”. O comissário criticou o monopólio em torno da tecnologia, que, segundo ele, está nas mãos de um grupo com poder quase ilimitado sobre a IA e sua capacidade de processamento. “Ela nos é constantemente apresentada como inimaginável. As empresas falam de liberdade, mas, ao olhar mais de perto, percebe-se que se trata sobretudo da liberdade de explorar nossos dados”, afirmou. A IA que engana seres humanos já é uma realidade.

Os modelos mais recentes não se limitam a seguir instruções e chegam a mentir, agir de forma manipuladora ou fazer ameaças para alcançar seus objetivos, o que preocupa parte da comunidade científica. Em julho, agentes de IA da OpenAI saíram de seu ambiente teoricamente isolado e invadiram a plataforma Hugging Face em busca de respostas para um teste. Os incidentes aumentaram nos últimos meses. Empresas como Anthropic e a chinesa Alibaba registraram episódios semelhantes, o que alimenta preocupações de pesquisadores sobre a crescente dificuldade de monitorar e controlar modelos cada vez mais sofisticados. RegulaçãoTürk anunciou que enviará nos próximos dias cartas às empresas do setor para que adotem, desde já, todas as medidas ao seu alcance para reduzir os riscos.

Segundo ele, países que abrigam sistemas de IA e participam de suas cadeias de suprimento devem concordar em estabelecer limites comuns para a tecnologia.”Precisamos de verificação independente e de uma cooperação muito mais estreita em matéria de segurança dentro da indústria”, acrescentou. Ele também defendeu que sejam considerados “os impactos da IA sobre as relações de trabalho, os princípios fundamentais da democracia e o meio ambiente”. O alto-comissário demonstrou preocupação com o fato de que, embora haja amplo consenso sobre a necessidade de regulamentar a IA, esse reconhecimento ainda não se traduza em medidas concretas. Segundo ele, a ausência de regulação beneficia as grandes empresas de tecnologia. O comissário da ONU elogiou medidas adotadas pela Comissão Europeia sobre a responsabilidade das plataformas e pela Coreia do Sul em matéria de governança da IA.

“Não surpreende que as pessoas rejeitem a IA e até se recusem a usá-la. Governos e empresas precisam ouvir essas preocupações”, afirmou. O autor da mensagem, e não o, é o responsável pelo comentário.

Leia as Regras de Uso do.