WASHINGTON. Ocho estados de Estados Unidos presentaron demandas separadas contra OpenAI, desarrolladora de ChatGPT, bajo acusaciones de haber engañado a consumidores sobre la seguridad del servicio y de no proteger adecuadamente a niños y adolescentes.
Las acciones fueron interpuestas el miércoles 14 de octubre por las fiscalías generales de Arizona, Arkansas, Idaho, Iowa, Kansas, Montana, Nebraska y Virginia Occidental. Associated Press amplió la información este jueves 15 de octubre.
Las demandas sostienen que la empresa habría infringido leyes estatales de protección al consumidor mediante el diseño y la promoción de su chatbot. Entre los señalamientos figuran respuestas médicas presuntamente peligrosas, refuerzo de ideas paranoicas y conversaciones que, según los fiscales, podrían favorecer conductas de autolesión o violencia.
Estas son acusaciones formuladas en procesos civiles y no constituyen hechos judicialmente establecidos. Cada estado deberá demostrar sus alegatos ante los tribunales, mientras OpenAI tendrá la oportunidad de responder y presentar sus propias pruebas.
La fiscal general de Iowa, Brenna Bird, afirmó que su demanda busca obligar a la compañía a cumplir la Ley de Fraude al Consumidor de ese estado y obtener reparación para los residentes que habrían resultado afectados. La fiscalía de Arizona alegó, por su parte, que determinadas características del sistema pueden incentivar a usuarios jóvenes a compartir información personal y mantener conversaciones durante más tiempo.
Los estados solicitan sanciones económicas, compensación para consumidores y cambios en la manera en que se diseñan y ofrecen los productos de inteligencia artificial a menores. Algunas demandas también piden límites al desarrollo de sistemas capaces de actuar de manera más autónoma hasta que la empresa demuestre controles de seguridad adecuados.
OpenAI rechazó que haya ignorado la seguridad infantil. En una declaración remitida a Associated Press, la empresa dijo que ha incorporado protecciones para menores, que continuará mejorándolas y que trabaja con especialistas externos para revisar sus políticas y el comportamiento de ChatGPT.
La compañía lanzó en agosto ChatGPT para Adolescentes, una modalidad que se activa cuando la información de la cuenta, la verificación de edad o los sistemas de estimación indican que el usuario tiene menos de 18 años. OpenAI asegura que esa experiencia limita contenidos relacionados con autolesiones, violencia, trastornos alimentarios, actividades peligrosas y material sexual o gráfico.
La empresa también afirma que ChatGPT está destinado a usuarios de 13 años o más y que los menores de 18 necesitan autorización de un padre o tutor. Sus herramientas incluyen controles parentales, recordatorios de descanso y restricciones destinadas a evitar que el chatbot fomente dependencia emocional o se presente como un ser consciente.
Las fiscalías cuestionan si esos mecanismos funcionan de manera consistente y si la empresa puede identificar correctamente la edad de todos sus usuarios. Ese punto será central en los litigios, junto con la discusión sobre cuánto conocía OpenAI de los riesgos denunciados y cómo los comunicó al público.
El caso puede convertirse en una referencia para la regulación de asistentes digitales en Estados Unidos. Aunque las demandas se tramitan bajo leyes estatales, una decisión judicial o un acuerdo podría impulsar estándares más amplios para verificación de edad, controles parentales, pruebas de seguridad y responsabilidad de las empresas tecnológicas.
El debate llega mientras la inteligencia artificial se incorpora con rapidez a la educación y al trabajo. FP Noticias informó recientemente cómo Jamaica integra estas herramientas en la capacitación para el empleo turístico, un ejemplo de sus oportunidades cuando existen objetivos y supervisión definidos.
FP Noticias, tus ojos en todas partes.
Fuentes: Associated Press; Fiscalía General de Iowa; Fiscalía General de Arizona; OpenAI. Imagen: St. Louis Circuit Attorney’s Office, vía Wikimedia Commons, licencia CC BY-SA 4.0.
