📸 Créditos da imagem: Mer_Studio/Shutterstock
Equipe de Segurança de IA
A ByteDance, dona do TikTok, anunciou a criação de um time global dedicado à segurança da inteligência artificial na sua unidade de pesquisa Seed.
O objetivo é contratar dez pesquisadores em Pequim, Xangai e San José, ampliando os estudos sobre os riscos de modelos avançados que podem acessar a internet e executar tarefas autonomamente.
Áreas de Pesquisa
- Treinamento de segurança: reduzir riscos durante a formação dos modelos.
- Testes automatizados: criar ferramentas para detectar falhas e vulnerabilidades.
- Monitoramento e explicabilidade: analisar o comportamento dos sistemas e fatores que influenciam suas respostas.
- Ambientes de simulação: avaliar agentes autônomos em cenários controlados.
- Riscos emergentes: investigar ameaças que surgem com o avanço da tecnologia.
A Seed garante recursos computacionais comparáveis aos usados nos modelos mais avançados e busca avaliações independentes, parcerias com universidades e instituições de pesquisa.
Importância Estratégica
Em meio à disputa entre China e EUA por liderança tecnológica, a iniciativa destaca a necessidade de medidas de proteção e comunicação sobre incidentes graves envolvendo sistemas avançados.
Com a nova equipe, a Seed pretende concentrar esforços de segurança em todas as etapas do desenvolvimento, do treinamento aos testes e à implantação.
📰 Leia a notícia completa em: Olhar Digital »