Apple Intelligence é suscetível a ataques de injeção de prompt, diz pesquisa

De acordo com pesquisadores da RSAC Conference, a Apple Intelligence pode ser manipulada por hackers utilizando técnicas de injeção de prompt. Em uma pesquisa elaborada por Petros Efstathopoulos, Laura Koetzle e Dario Pasquini, foram descobertos mecanismos para contornar os filtros de entrada e saída da Apple em relação ao seu modelo local de LLM 1, testando as técnicas de ataque com 100 prompts randomizados; 76% das tentativas foram bem-sucedidas. Com foco nos modelos de linguagem executados localmente no sistema operacional, a principal técnica de ataque empreendida (chamada de “Neural Exec”) induzia a execução consistente de ações específicas pelos LLMs, de forma que parecesse sem sentido para humanos — o que garante aos atacantes o controle das entradas e saídas da Apple Intelligence. Além de gerar conteúdos textuais em desacordo com os termos da Maçã, a Apple Intelligence pode se conectar a aplicativos de terceiros por meio de APIs 2 do sistema, o que indica que respostas manipuladas podem influenciar o comportamento de outros aplicativos ou até mesmo expor dados sensíveis.