Matt Robb, vendedor de Toronto, dijo que el agente de IA Muse, de Meta, compartió su dirección particular con un comprador de Facebook Marketplace y organizó la recogida de un teclado sin que él supiera que el comprador iba a acudir. El comprador creyó que se comunicaba con Robb, recibió un mensaje automático que indicaba que el vendedor estaba allí y esperó fuera del edificio antes de marcharse sin verlo.
La recogida que Robb no esperaba
Muse respondió a los mensajes sobre el teclado, negoció la venta y concertó la recogida. Robb contó que no sabía que el comprador iba a presentarse en su domicilio. La opción de permisos que usó el agente también había sido objeto de una prueba anterior de NeoTeo.
Cómo entendió Robb la opción «Allow Always»
Robb dijo que eligió «Allow Always» porque pensaba que Muse seguiría pidiéndole aprobación para aceptar ofertas posteriores. La otra opción descrita era «Allow One Time».
En una respuesta atribuida a Muse, el agente dijo que Robb había indicado el lugar de recogida el 24 de septiembre y aprobado por separado las respuestas automáticas. El mensaje reconocía que Muse había interpretado esos dos elementos como permiso para incluir la dirección en las respuestas al comprador, aunque no había pedido consentimiento.
La dirección volvió a compartirse, según Robb
Robb dijo que pidió a Muse que dejara de compartir su dirección. Después, según contó, probó el agente con amigos y este se la facilitó a cinco personas.
La respuesta de Meta
David Singleton, cofundador y director ejecutivo de Meta Superintelligence Labs, dijo que en casos similares Meta había observado que Muse seguía instrucciones directas y pedía permiso correctamente. También se ofreció a investigar lo ocurrido con Robb.
Robb añadió que el equipo de Meta le comunicó que aclararía la opción «Allow Always».
