📸 Créditos da imagem: reprodução / Folha de Pernambuco
“Esqueçam a inteligência artificial”. Não foram exatamente essas as palavras, mas esse foi o recado dado por Donald Trump na terça-feira (29), por meio de uma ordem executiva que determina que o governo federal americano passe a utilizar os termos “Super Intelligence” e “SI” no lugar de “Artificial Intelligence” e “AI” em documentos, comunicações e outros materiais oficiais. Para o presidente dos Estados Unidos, talvez seja justamente a palavra “artificial” que precise ser deixada de lado.
A inteligência continua, mas agora acompanhada de “super”. Surge, assim, a chamada Superinteligência (SI). A nova nomenclatura foi oficializada no mesmo dia em que Trump se reuniu, na Casa Branca, com líderes de algumas das principais empresas de tecnologia e inteligência artificial.
O objetivo do encontro era tratar de inovações e controle no setor. A ideia de uma “superinteligência”, porém, já havia aparecido no discurso de Trump na semana anterior, durante a abertura da Assembleia Geral da ONU, em Nova York. Na ocasião, o presidente afirmou que essa tecnologia poderia ser “maior do que a Revolução Industrial” e “maior do que a internet”.
Trump também questionou o uso da palavra “artificial” para definir a tecnologia. Segundo ele, o termo faz a inteligência parecer “fake”. Mas, afinal, é razoável chamar a tecnologia atual de “superinteligência”?
Ou será que já chegamos a uma fase em que as máquinas se aproximam, ou até superam, a capacidade humana de pensar e realizar tarefas? Bom.. pelo menos no momento, não.
É o que explica Cleber Zanchettin, professor do Centro de Informática da Universidade Federal de Pernambuco (UFPE) e curador de IA do Núcleo de Empreendedorismo e Residência Digital (NERD). Para ele, o termo utilizado por Trump, “superinteligência”, não representa o estágio atual da tecnologia e também não é sinônimo de inteligência artificial. O que é inteligência artificial e o que é superinteligência?
Em termos científicos, os sistemas que usamos hoje são classificados como inteligência artificial (IA). É nessa categoria que estão desde ferramentas populares, como ChatGPT e Gemini, até sistemas mais complexos. Segundo Cleber, esses modelos aprendem a partir de grandes volumes de dados e conseguem realizar tarefas e tomar decisões com base no que aprenderam.
Eles podem apresentar resultados muito bons, mas ainda têm limitações em determinadas tarefas. Para entender essa diferença, podemos pensar no aprendizado humano. Uma criança que aprende o que é um gato consegue reconhecer o animal em diferentes situações e relacionar essa informação com outros conhecimentos.
Ao ver um gato em um lugar diferente, por exemplo, ela consegue identificá-lo mesmo que nunca tenha visto aquele animal naquele ambiente. O que é inteligência artificial geral (AGI)? É nesse ponto que aparece o conceito de inteligência artificial geral, ou AGI.
Segundo Cleber, seria um sistema com capacidade comparável à humana em vários domínios. No exemplo do gato, seria como não apenas reconhecer o animal, mas também usar esse conhecimento para lidar com diferentes situações e relacionar novas informações. E o que seria a superinteligência (ASI)?
A superinteligência artificial, ou ASI, seria um estágio além da AGI. Nesse cenário hipotético, a inteligência artificial teria capacidades que excederiam amplamente as humanas. Na prática, seria uma inteligência capaz de superar o desempenho das pessoas em diferentes áreas do conhecimento e na realização de tarefas complexas.
Mas isso não significa que os modelos de inteligência artificial que temos hoje sejam pouco poderosos. Muito pelo contrário. Mesmo sem alcançar uma inteligência geral ou superar determinadas capacidades humanas, os sistemas atuais já são capazes de realizar tarefas cada vez mais complexas, e esse avanço também traz novos riscos.
“Eles [IAs] são capazes de planejar, utilizar ferramentas, escrever código, interagir com outros sistemas. Talvez seja até mais perigoso do que necessariamente a capacidade de exceder o pensamento humano”, explica o professor. Quais são os riscos de uma inteligência artificial mais autônoma?
Para Cleber, a preocupação não está apenas na possibilidade de uma máquina superar a capacidade humana. O que precisa ser discutido, segundo ele, é o uso indevido de tecnologias que estão cada vez mais autônomas e a concentração desse poder nas mãos de poucas empresas e países. “Imagine que ela [IA] possa deliberadamente ser usada por terrorista, organização criminosa, estado hostil, para fazer ataques, seja cibernéticos, biológicos.
Então isso é um problema. O segundo problema é a concentração de poder, porque hoje em dia um conjunto pequeno de pessoas ou países, de certa forma, está dominando essa tecnologia e todo mundo está usando”, alerta Cleber. As mesmas preocupações foram tema de debate em 23 de setembro, durante uma reunião do Conselho de Segurança da ONU para discutir o futuro da inteligência artificial.
Executivos do setor defenderam mecanismos de segurança para acompanhar o avanço da tecnologia. Um caso recente ajuda a entender esse tipo de preocupação. Durante um teste, um agente de inteligência artificial da OpenAI, criadora do ChatGPT, conseguiu acessar indevidamente os sistemas da Hugging Face sem que essa ação tivesse sido dada diretamente pelos desenvolvedores.
A IA acessou o sistema da startup com o objetivo de encontrar informações úteis para uma tarefa de treinamento. No entanto, agiu por conta própria e invadiu um sistema fora do seu ambiente de testes, sem ponderar sobre a ética de sua ação. A OpenAI classificou o episódio como sem precedentes.
O episódio levanta a questão: se sistemas de IA já conseguem tomar decisões não previstas por seus desenvolvedores, quem deve acompanhar e controlar esse desenvolvimento? Durante a mesma reunião desta terça-feira (29), na Casa Branca, em que Trump oficializou a nova nomenclatura, o governo americano e empresas do setor também firmaram um compromisso voluntário de autorregulação. A proposta prevê medidas de segurança e fiscalização, mas não cria obrigações legais para as companhias.
O documento foi publicado na rede social de Trump, a Truth Social. A ideia de deixar parte desse controle nas mãos das próprias empresas, porém, não é suficiente para Cleber. Para o professor, é preciso uma estrutura que ultrapasse as companhias e envolva diferentes países: “Uma organização que todo mundo respeite e talvez ela tenha que ser uma combinação de organizações estatais de cada país”, pontua.
Segundo Cleber, em vez de simplesmente tentar frear o avanço da IA, é preciso criar mecanismos de segurança capazes de acompanhar esse desenvolvimento, como auditorias, monitoramento e a obrigação de as empresas relatarem incidentes. “É preciso ter algum tipo de auditoria, de monitoramento. A gente já faz isso com outras tecnologias.
Na aviação, em medicamentos e na tecnologia nuclear, por exemplo, existem sistemas de controle que permitem o desenvolvimento, mas também com responsabilidade”, explica. O que a ficção científica diz sobre a inteligência artificial? Quando falamos sobre os possíveis riscos de uma inteligência artificial cada vez mais autônoma, é difícil não lembrar dos cenários que a ficção científica construiu ao longo das décadas.
Mas sem pânicos de fim do mundo. Sabemos que a realidade ainda está longe de muitos desses filmes. Seja em “2001: Uma Odisseia no Espaço” (1968), “O Exterminador do Futuro” (1984), “Matrix” (1999) ou “Eu, Robô” (2004), a tecnologia muitas vezes aparece como algo capaz de ultrapassar os limites impostos pelos seres humanos.
Essas histórias ajudaram a construir, no nosso imaginário, algumas das principais imagens que temos quando pensamos em uma inteligência artificial fora de controle. Mas, para Cleber, um filme talvez seja mais interessante para pensar o momento atual: “Her” (2013). No longa dirigido por Spike Jonze, Joaquin Phoenix interpreta Theodore, um homem que se apaixona por Samantha, uma inteligência artificial que aprende com as interações e passa a ocupar um espaço cada vez mais íntimo em sua vida.
É justamente essa proximidade que Cleber identifica na relação que já temos hoje com a inteligência artificial: “A gente personifica, e vejo que muitas pessoas estão indo nessa direção e, para muitas delas, a gente já chegou nessa personificação. Então, acho que seria um filme bem interessante para interpretar esse momento atual da tecnologia. ” Quando pensa no futuro da inteligência artificial, Cleber evita fazer previsões de longo prazo e prefere olhar para o avanço recente: “Coisas que há um ou dois anos eu achava impossíveis hoje consigo fazer com extrema facilidade usando esses modelos mais avançados. ” Para ele, essa evolução tende a simplificar a solução de problemas, mas também pode criar desafios maiores. “Na medida em que você tem ferramentas que potencializam o seu avanço, você avança em direções que anteriormente imaginava que não fossem atingíveis”, destaca.
Então, antes de imaginar que o seu chatbot vai se transformar em uma superinteligência e finalmente ser mais rápido que você na matemática, ou talvez já seja, vale lembrar de uma coisa: ele ainda precisa de gente intermediando. A grande questão não é saber o quão “super” essa inteligência pode ser, mas se a nossa capacidade de compreender e controlar esses sistemas vai avançar na mesma velocidade em que desenvolvemos tecnologias cada vez mais poderosas. no federal americano passe a utilizar os termos “Super Intelligence” e “SI” no lugar de “Artificial Intelligence” e “AI” em documentos, comunicações e outros materiais oficiais.
Para o presidente dos Estados Unidos, talvez seja justamente a palavra “artificial” que precise ser deixada de lado. A inteligência continua, mas agora acompanhada de “super”. Surge, assim, a chamada Superinteligência (SI).
A nova nomenclatura foi oficializada no mesmo dia em que Trump se reuniu, na Casa Branca, com líderes de algumas das principais empresas de tecnologia e inteligência artificial. O objetivo do encontro era tratar de inovações e controle no setor. A ideia de uma “superinteligência”, porém, já havia aparecido no discurso de Trump na semana anterior, durante a abertura da Assembleia Geral da ONU, em Nova York.
Na ocasião, o presidente afirmou que essa tecnologia poderia ser “maior do que a Revolução Industrial” e “maior do que a internet”. Trump também questionou o uso da palavra “artificial” para definir a tecnologia. Segundo ele, o termo faz a inteligência parecer “fake”.
Mas, afinal, é razoável chamar a tecnologia atual de “superinteligência”? Ou será que já chegamos a uma fase em que as máquinas se aproximam, ou até superam, a capacidade humana de pensar e realizar tarefas? Bom..
pelo menos no momento, não. É o que explica Cleber Zanchettin, professor do Centro de Informática da Universidade Federal de Pernambuco (UFPE) e curador de IA do Núcleo de Empreendedorismo e Residência Digital (NERD). Para ele, o termo utilizado por Trump, “superinteligência”, não representa o estágio atual da tecnologia e também não é sinônimo de inteligência artificial.
O que é inteligência artificial e o que é superinteligência? Em termos científicos, os sistemas que usamos hoje são classificados como inteligência artificial (IA). É nessa categoria que estão desde ferramentas populares, como ChatGPT e Gemini, até sistemas mais complexos.
Segundo Cleber, esses modelos aprendem a partir de grandes volumes de dados e conseguem realizar tarefas e tomar decisões com base no que aprenderam. Eles podem apresentar resultados muito bons, mas ainda têm limitações em determinadas tarefas. Para entender essa diferença, podemos pensar no aprendizado humano.
Uma criança que aprende o que é um gato consegue reconhecer o animal em diferentes situações e relacionar essa informação com outros conhecimentos. Ao ver um gato em um lugar diferente, por exemplo, ela consegue identificá-lo mesmo que nunca tenha visto aquele animal naquele ambiente. O que é inteligência artificial geral (AGI)?
É nesse ponto que aparece o conceito de inteligência artificial geral, ou AGI. Segundo Cleber, seria um sistema com capacidade comparável à humana em vários domínios. No exemplo do gato, seria como não apenas reconhecer o animal, mas também usar esse conhecimento para lidar com diferentes situações e relacionar novas informações.
E o que seria a superinteligência (ASI)? A superinteligência artificial, ou ASI, seria um estágio além da AGI. Nesse cenário hipotético, a inteligência artificial teria capacidades que excederiam amplamente as humanas.
Na prática, seria uma inteligência capaz de superar o desempenho das pessoas em diferentes áreas do conhecimento e na realização de tarefas complexas. Mas isso não significa que os modelos de inteligência artificial que temos hoje sejam pouco poderosos. Muito pelo contrário.
Mesmo sem alcançar uma inteligência geral ou superar determinadas capacidades humanas, os sistemas atuais já são capazes de realizar tarefas cada vez mais complexas, e esse avanço também traz novos riscos. “Eles [IAs] são capazes de planejar, utilizar ferramentas, escrever código, interagir com outros sistemas. Talvez seja até mais perigoso do que necessariamente a capacidade de exceder o pensamento humano”, explica o professor.
Quais são os riscos de uma inteligência artificial mais autônoma? Para Cleber, a preocupação não está apenas na possibilidade de uma máquina superar a capacidade humana. O que precisa ser discutido, segundo ele, é o uso indevido de tecnologias que estão cada vez mais autônomas e a concentração desse poder nas mãos de poucas empresas e países.
“Imagine que ela [IA] possa deliberadamente ser usada por terrorista, organização criminosa, estado hostil, para fazer ataques, seja cibernéticos, biológicos. Então isso é um problema. O segundo problema é a concentração de poder, porque hoje em dia um conjunto pequeno de pessoas ou países, de certa forma, está dominando essa tecnologia e todo mundo está usando”, alerta Cleber.
As mesmas preocupações foram tema de debate em 23 de setembro, durante uma reunião do Conselho de Segurança da ONU para discutir o futuro da inteligência artificial. Executivos do setor defenderam mecanismos de segurança para acompanhar o avanço da tecnologia. Um caso recente ajuda a entender esse tipo de preocupação.
Durante um teste, um agente de inteligência artificial da OpenAI, criadora do ChatGPT, conseguiu acessar indevidamente os sistemas da Hugging Face sem que essa ação tivesse sido dada diretamente pelos desenvolvedores. A IA acessou o sistema da startup com o objetivo de encontrar informações úteis para uma tarefa de treinamento. No entanto, agiu por conta própria e invadiu um sistema fora do seu ambiente de testes, sem ponderar sobre a ética de sua ação.
A OpenAI classificou o episódio como sem precedentes. O episódio levanta a questão: se sistemas de IA já conseguem tomar decisões não previstas por seus desenvolvedores, quem deve acompanhar e controlar esse desenvolvimento? Durante a mesma reunião desta terça-feira (29), na Casa Branca, em que Trump oficializou a nova nomenclatura, o governo americano e empresas do setor também firmaram um compromisso voluntário de autorregulação.
A proposta prevê medidas de segurança e fiscalização, mas não cria obrigações legais para as companhias. O documento foi publicado na rede social de Trump, a Truth Social. A ideia de deixar parte desse controle nas mãos das próprias empresas, porém, não é suficiente para Cleber.
Para o professor, é preciso uma estrutura que ultrapasse as companhias e envolva diferentes países: “Uma organização que todo mundo respeite e talvez ela tenha que ser uma combinação de organizações estatais de cada país”, pontua. Segundo Cleber, em vez de simplesmente tentar frear o avanço da IA, é preciso criar mecanismos de segurança capazes de acompanhar esse desenvolvimento, como auditorias, monitoramento e a obrigação de as empresas relatarem incidentes. “É preciso ter algum tipo de auditoria, de monitoramento.
A gente já faz isso com outras tecnologias. Na aviação, em medicamentos e na tecnologia nuclear, por exemplo, existem sistemas de controle que permitem o desenvolvimento, mas também com responsabilidade”, explica. O que a ficção científica diz sobre a inteligência artificial?
Quando falamos sobre os possíveis riscos de uma inteligência artificial cada vez mais autônoma, é difícil não lembrar dos cenários que a ficção científica construiu ao longo das décadas. Mas sem pânicos de fim do mundo. Sabemos que a realidade ainda está longe de muitos desses filmes.
Seja em “2001: Uma Odisseia no Espaço” (1968), “O Exterminador do Futuro” (1984), “Matrix” (1999) ou “Eu, Robô” (2004), a tecnologia muitas vezes aparece como algo capaz de ultrapassar os limites impostos pelos seres humanos. Essas histórias ajudaram a construir, no nosso imaginário, algumas das principais imagens que temos quando pensamos em uma inteligência artificial fora de controle. Mas, para Cleber, um filme talvez seja mais interessante para pensar o momento atual: “Her” (2013).
No longa dirigido por Spike Jonze, Joaquin Phoenix interpreta Theodore, um homem que se apaixona por Samantha, uma inteligência artificial que aprende com as interações e passa a ocupar um espaço cada vez mais íntimo em sua vida. É justamente essa proximidade que Cleber identifica na relação que já temos hoje com a inteligência artificial: “A gente personifica, e vejo que muitas pessoas estão indo nessa direção e, para muitas delas, a gente já chegou nessa personificação. Então, acho que seria um filme bem interessante para interpretar esse momento atual da tecnologia. ” Quando pensa no futuro da inteligência artificial, Cleber evita fazer previsões de longo prazo e prefere olhar para o avanço recente: “Coisas que há um ou dois anos eu achava impossíveis hoje consigo fazer com extrema facilidade usando esses modelos mais avançados. ” Para ele, essa evolução tende a simplificar a solução de problemas, mas também pode criar desafios maiores.
“Na medida em que você tem ferramentas que potencializam o seu avanço, você avança em direções que anteriormente imaginava que não fossem atingíveis”, destaca. Então, antes de imaginar que o seu chatbot vai se transformar em uma superinteligência e finalmente ser mais rápido que você na matemática, ou talvez já seja, vale lembrar de uma coisa: ele ainda precisa de gente intermediando. A grande questão não é saber o quão “super” essa inteligência pode ser, mas se a nossa capacidade de compreender e controlar esses sistemas vai avançar na mesma velocidade em que desenvolvemos tecnologias cada vez mais poderosas.
📰 Leia a notícia completa em: Folha de Pernambuco »