Muse cria perfis detalhados de todos os seus amigos e familiares

Bem-vindo ao Pânico do núcleo!, um boletim semanal de Lily Hay Newman e Matt Burgess de dentro do novo mundo de privacidade e segurança digital. Para receber este boletim informativo em sua caixa de entrada todas as semanas, inscreva-se aqui.

O novo pessoal da Meta assistente, Musatornou-se um sucesso viral, com milhões de pessoas baixando o agente de IA, conectando-o a contas bancárias, mensagens ou dados de saúde e permitindo que ele conclua tarefas para eles. Mas como Musa decola entre os consumidores, os dados de dentro do aplicativo fornecem informações sobre como ele organiza e apresenta informações aos usuários.

Nos últimos dias, vários pesquisadores extraído Os arquivos internos do Muse e as instruções operacionais do agente foram despejadas, fornecendo uma ideia de como o sistema foi construído e se comporta. A Meta afirmou que pretendia que esses arquivos fossem acessíveis no interesse da transparência, e eles fornecem informações sobre como o Muse responde a solicitações e perguntas sobre, por exemplo, tópicos altamente politizados ou sensíveis.

O pesquisador independente de segurança e proteção de IA, Karan Joshi, conseguiu extrair uma ampla gama de instruções do Muse e prompts do sistema usando a interface de bate-papo normal para essencialmente pedir ao Muse para copiar e compartilhar seus próprios arquivos de software. Joshi então compartilhou suas descobertas com a WIRED.

Uma das instruções do Muse parece ser a capacidade de criar “uma página para cada pessoa na vida do usuário”. Esse de hora em hora O processo envolve a compilação de dados sobre familiares, parceiros, amigos, colegas, “colaboradores” e pessoas que você “segue”, dizem as instruções.

A ideia geral é que o Muse possa usar seu “memória” (também conhecidos como arquivos de texto estruturados) para coletar informações sobre seus relacionamentos e as pessoas importantes em sua vida. Ele pode então fazer sugestões, como dar dicas sobre como melhorar relacionamentos específicos ou, digamos, onde levar um amigo que adora café para o café da manhã. Claro, não é incomum que chatbots de IA rastreiem informações sociais em geral – as pessoas têm solicitado ao ChatGPT por conselhos de relacionamento há anos. Mas é interessante ver como o Muse está configurado, dadas as características do Meta. história e vasto acesso a dados de redes sociais.

“O que me pareceu, com base em todas essas solicitações, dados de habilidades do sistema e coisas que eles estão alimentando no Muse, é que eles querem entender o relacionamento que você tem com pessoas reais”, diz Joshi. “Eles estão tentando conhecer você como um amigo, o que é honestamente muito assustador.”

A documentação do Muse diz que uma página pode começar “esparsa” e depois ser preenchida com o tempo, potencialmente incluindo seções como Fatos, História, O relacionamento, Em comum, Tópicos abertos e Fortalecimento. As instruções do Meta dizem que o Muse deve usar apenas as “evidências” disponíveis e que detalhes inventados são piores do que uma página em branco.

Source link