Tóquio – A Meta começou a oferecer no Japão o Muse, seu novo agente pessoal de inteligência artificial (IA) capaz não apenas de responder a perguntas, mas também de realizar tarefas em nome do usuário. O Japão é o primeiro mercado fora da América do Norte a receber oficialmente o serviço, lançado no país em 23 de outubro.

O Muse pode ser utilizado por meio de aplicativo para iOS e Android e também pela internet. Grande parte das funções básicas é gratuita, enquanto recursos adicionais são oferecidos por planos de assinatura.

A diferença em relação aos chatbots tradicionais está principalmente na capacidade de agir. Em vez de simplesmente explicar como determinada tarefa pode ser realizada, o Muse pode receber uma instrução, elaborar um plano e executar diferentes etapas sozinho.

Entre outras funções, ele pode abrir páginas na internet, preencher formulários, pesquisar informações, organizar compromissos, preparar reservas e continuar executando determinadas tarefas mesmo depois que o usuário fechar o aplicativo.

E-mails e compromissos

Uma das principais funções oferecidas inicialmente no Japão é a integração com o Gmail e o Google Agenda.

Com autorização do usuário, o Muse pode consultar mensagens recebidas, resumir e-mails ainda não lidos, localizar informações importantes e ajudar a organizar compromissos.

O nível de acesso pode ser definido pelo próprio usuário. No caso do e-mail, por exemplo, é possível permitir somente a leitura das mensagens ou também autorizar que o agente envie e-mails em nome da pessoa.

A Meta informa que o Muse pede confirmação antes de determinadas ações consideradas sensíveis, como enviar mensagens, compartilhar informações ou concluir uma compra. Dependendo da configuração, o usuário pode permitir uma ação apenas uma vez, autorizá-la permanentemente ou recusá-la.

O serviço também pode utilizar informações de conversas anteriores para entender melhor os interesses e hábitos da pessoa.

Isso significa, por exemplo, que o Muse poderá lembrar preferências mencionadas anteriormente e usá-las quando fizer sugestões, organizar atividades ou realizar pesquisas.

Compras, viagens e outros serviços

A Meta também está ampliando a integração do Muse com serviços externos.

No Japão, estão previstas conexões com o Mercari, plataforma de compra e venda de produtos usados; o Money Forward ME, aplicativo utilizado para gerenciamento das finanças pessoais; e a Ticket Pia, uma das principais plataformas japonesas de venda de ingressos.

Também há integração ou previsão de integração com empresas internacionais como Stripe, Shopify, Trip.com, Agoda e Klook, permitindo que o agente auxilie em compras, planejamento de viagens e reservas.

Nos Estados Unidos, a Meta já demonstra exemplos em que o Muse pesquisa produtos, acompanha preços, organiza viagens e auxilia na realização de compras.

Senha e cartão ficam protegidos, diz Meta

Segundo a Meta, o Muse funciona em uma máquina virtual individual chamada Muse Secure VM.

A empresa afirma que cada usuário possui um ambiente isolado na nuvem no qual ficam armazenados os dados necessários para a utilização dos serviços conectados.

O agente não tem acesso visual às senhas nem aos dados dos meios de pagamento. As credenciais ficam armazenadas separadamente e podem ser usadas pelo sistema sem que o Muse veja diretamente seu conteúdo.

A Meta também afirma que as conversas mantidas com o Muse e os dados existentes dentro da máquina virtual não são compartilhados com seus sistemas de publicidade.

O usuário pode desconectar serviços, alterar permissões e optar por que suas interações com o Muse não sejam utilizadas no treinamento dos modelos de inteligência artificial da Meta.

Mas existem riscos

Apesar desses mecanismos de proteção, utilizar um agente de inteligência artificial capaz de acessar e-mails, agenda, arquivos e serviços de compra exige cuidados diferentes daqueles necessários para usar um chatbot convencional.

O problema está justamente na capacidade de executar ações.

Especialistas em segurança alertam para um tipo de ataque chamado prompt injection, ou injeção de instruções. Nesse tipo de ataque, comandos maliciosos podem ser inseridos, inclusive de maneira escondida, em páginas da internet, documentos ou e-mails analisados por uma inteligência artificial.

Em teoria, um agente poderia interpretar essas instruções como parte da tarefa que recebeu.

O risco se torna maior quando a inteligência artificial possui acesso a outros serviços. A organização internacional de segurança OWASP cita especificamente como exemplo o caso de um agente conectado ao e-mail que recebe uma mensagem preparada para tentar induzi-lo a localizar informações privadas ou realizar alguma ação não pretendida pelo usuário.

Por esse motivo, uma das principais recomendações de especialistas é aplicar o princípio do menor privilégio: liberar somente o acesso necessário para cada tarefa.

Muse já teve vulnerabilidade relatada

Também não existe sistema digital completamente livre de falhas.

Em setembro, poucas semanas depois do lançamento inicial do Muse nos Estados Unidos, o site especializado The Information publicou que um pesquisador participante do programa de recompensas por identificação de falhas da Meta encontrou uma vulnerabilidade que poderia permitir acesso indevido à máquina virtual utilizada pelo agente e, consequentemente, a informações pessoais armazenadas no ambiente.

Segundo a publicação, a Meta adotou medidas adicionais de segurança depois que o problema foi identificado.

O episódio não significa que os usuários tenham necessariamente tido seus dados roubados, mas demonstra por que serviços desse tipo devem ser utilizados com cautela, principalmente quando estão conectados a contas contendo informações pessoais.

Como utilizar com segurança

O primeiro cuidado é não liberar todos os acessos simplesmente porque estão disponíveis.

Uma pessoa que deseja apenas receber resumos de mensagens, por exemplo, pode conceder ao Muse acesso de leitura ao Gmail sem necessariamente permitir o envio de e-mails.

Também é recomendável manter a exigência de confirmação humana antes de enviar mensagens, fazer compras, compartilhar informações ou executar qualquer ação que possa produzir consequências financeiras ou pessoais.

Outra recomendação é verificar cuidadosamente o que o Muse pretende fazer antes de aprovar uma operação. A confirmação não deve ser tratada apenas como uma tela que precisa ser rapidamente aceita.

Nos serviços relacionados a compras ou finanças, é aconselhável começar com permissões limitadas e ampliar o acesso somente quando realmente necessário.

O mesmo vale para informações muito sensíveis. Documentos confidenciais, dados financeiros, informações médicas e informações profissionais sigilosas não devem ser fornecidos automaticamente a um agente simplesmente para facilitar uma tarefa.

Os usuários também devem revisar periodicamente quais aplicativos estão conectados e retirar permissões que deixaram de ser necessárias.

Não confiar cegamente na IA

Há ainda outro cuidado fundamental: a inteligência artificial pode cometer erros.

Mesmo agentes avançados podem interpretar incorretamente uma solicitação, selecionar informações erradas ou tomar uma decisão diferente daquela pretendida pelo usuário.

Por isso, tarefas importantes envolvendo dinheiro, contratos, reservas de alto valor, informações profissionais ou mensagens que possam gerar consequências devem ser conferidas antes da autorização final.

A própria arquitetura do Muse procura manter uma pessoa no processo em operações consideradas sensíveis. Especialistas em segurança também recomendam esse tipo de supervisão humana para sistemas capazes de executar ações.

O Muse representa uma evolução importante na utilização cotidiana da inteligência artificial. Em vez de apenas conversar com o usuário, o sistema pode funcionar como uma espécie de assistente digital que recebe uma tarefa e tenta realizá-la.

Essa conveniência, porém, vem acompanhada de uma nova responsabilidade. Quanto mais acesso um agente recebe aos e-mails, compromissos, compras e outras informações pessoais, maior deve ser o controle exercido pelo usuário.

A melhor maneira de aproveitar o serviço é começar com poucas permissões, manter confirmações obrigatórias para ações importantes e sempre conferir o resultado antes de permitir que a inteligência artificial tome uma decisão definitiva.

Foto: Reprodução/Meta