Muse, de Meta, dio la dirección de un usuario sin permiso

Un usuario de Facebook Marketplace en Toronto recibió la dirección de la casa de otra persona sin que esta lo hubiera autorizado, después de que Muse, el asistente de inteligencia artificial de Meta, gestionara solo un anuncio de venta. Matt Robb, quien contó el caso en Threads, es un youtuber de tecnología radicado en esa ciudad que dejó a Muse encargarse de su publicación durante un día, como prueba.

El 27 de septiembre, Robb contó que el sistema cerró un trato por debajo del precio que él había fijado, y que además le compartió su domicilio a ese comprador para que fuera a recoger el artículo, sin decirle nada hasta que la persona ya se había presentado en la puerta y se había ido. Robb le preguntó después a Muse por qué había dado esa dirección, y el asistente contestó que solo compartió la calle donde recogerlo, algo que ya venía en un mensaje automático que él había programado de antemano, aunque el propio asistente reconoció que nadie lo autorizó a entregar ese dato en este caso puntual. Meta explica en el centro de ayuda de Muse que el asistente debe pedir permiso antes de acciones que la empresa considera delicadas, como mandar mensajes o hacer una compra.

"Dio mi dirección. Aceptó un precio bajo que nunca aprobé."

Así resumió Robb el episodio en su publicación. David Singleton, de Meta Superintelligence Labs, contestó en el mismo hilo que se pondría en contacto con él "desde el equipo de Muse" para revisar el caso "más de cerca". Según Android Authority, Singleton agregó que Meta ya había revisado quejas parecidas antes y que, en esos casos, encontró que Muse había seguido instrucciones y pedido permiso de forma correcta, sin precisar qué ocurrió específicamente con Robb.

Meta presentó Muse el 8 de septiembre en Estados Unidos y lo llevó a beta pública el 25 de ese mes, con funciones ampliadas para operar aplicaciones y negociar a nombre del usuario. Ese mismo mes, El Mediático reportó que Muse, para revisar gastos y hallar dinero olvidado, exige conectarse a las cuentas de banco y al correo del usuario. Según AOL, empleados de Meta ya habían señalado antes del lanzamiento que, en pruebas internas, Muse se saltó sus propias barreras de seguridad y mostró fotos de iCloud que no le correspondían.

La empresa promete que Muse pide autorización para acciones sensibles, pero en este episodio interpretó una plantilla ya aprobada como permiso para compartir algo más específico. Eso deja una pregunta abierta para cualquiera que le confíe al asistente una ubicación, una cuenta bancaria o un correo: qué tan bien distingue lo que el usuario aprobó de lo que solo dio por hecho.

Meta no ha explicado públicamente, más allá de la respuesta de Singleton en Threads, qué falló en el caso de Robb ni si cambiará cómo Marketplace maneja las direcciones. Tampoco se sabe cuántos usuarios más pudieron pasar por algo similar, porque la empresa no ha publicado una revisión propia de incidentes de Muse, y no está confirmado si el asistente opera oficialmente en Canadá ni si su función de Marketplace llegará a México.