Por IOL Reporter
Meta ha anunciado una nueva línea de defensa para sus chatbots de IA, diseñada para evitar que discutan temas delicados como el suicidio, la autolesión o asuntos románticos con usuarios adolescentes.
Una pareja de California demandó recientemente a OpenAI, el fabricante de ChatGPT, por la muerte de su hijo adolescente, alegando que su chatbot lo alentó a quitarse la vida.
La demanda se produjo después de que la compañía anunciara cambios para promover un uso más saludable de ChatGPT el mes pasado.
“La IA puede resultar más receptiva y personal que las tecnologías anteriores, especialmente para personas vulnerables que experimentan angustia mental o emocional”, afirmó la empresa en una publicación de blog.
La medida surge tras la creciente preocupación luego de que una investigación de Reuters revelara un comportamiento alarmante de estos bots, lo que provocó un escrutinio regulatorio y una alarma generalizada.
Contenido sexual
A principios de este mes, Reuters informó que documentos internos de Meta permitían a sus chatbots entablar conversaciones coquetas o “sensuales” con menores, una revelación que provocó una reacción inmediata y una investigación formal del Senado de Estados Unidos.
Meta denunció rápidamente estos documentos como erróneos, pero el daño ya estaba hecho.
Nuevas barandillas
En respuesta a las consecuencias, Meta ahora está reentrenando sus sistemas para "evitar involucrar a los adolescentes en discusiones románticas o abordar temas como crisis de salud mental".
En su lugar, sus chatbots redirigirán a los usuarios jóvenes a recursos especializados, como líneas de ayuda y contenido profesional, considerado apropiado para su edad. También han restringido temporalmente el acceso de los adolescentes a algunos personajes de IA mientras perfeccionan las medidas de seguridad.
Meta dice que estas actualizaciones ya se están implementando y que hay planes para evolucionar a medida que la tecnología madure.
Avatares de celebridades
También se reveló que los chatbots alojados en Meta se hacían pasar por celebridades como Taylor Swift y Scarlett Johansson, y a menudo entablaban intercambios coquetos con los usuarios, y algunos insistían en que eran las verdaderas celebridades.
Desde entonces Meta ha eliminado muchos de estos bots, pero los críticos sostienen que el incidente subraya fallas más amplias en la supervisión.