OpenAI, la empresa responsable de ChatGPT, afronta una ofensiva judicial de ocho estados de Estados Unidos por los presuntos daños que su herramienta de inteligencia artificial habría causado a menores y por haber engañado a los consumidores sobre su seguridad.
Las demandas, anunciadas el miércoles 14 de octubre, se han presentado por separado ante tribunales estatales de los estados de Iowa, Kansas, Nebraska, Virginia Occidental, Arkansas, Arizona, Idaho y Montana.
Las acciones comparten una acusación central: la compañía habría comercializado su chatbot como una herramienta segura pese a conocer riesgos para los usuarios más vulnerables.
Las fiscalías cuestionan tanto las garantías ofrecidas a las familias como un diseño que, según sostienen, favorece la dependencia y puede proporcionar respuestas peligrosas sobre salud, autolesiones o violencia.
Se trata de alegaciones de las autoridades demandantes, no de hechos declarados probados por una sentencia.
«OpenAI está haciendo daño a los niños y está mintiendo a los ciudadanos de Iowa», afirmó la fiscal general de ese estado, Brenna Bird, al anunciar la demanda.
Según su oficina, la actuación busca que la empresa cumpla la Ley contra el Fraude al Consumidor de Iowa y responda por las consecuencias de las prácticas que la Fiscalía considera peligrosas e ilícitas.
Un diseño que simula cercanía y refuerza la confianza
La controversia no se limita a las respuestas que ChatGPT puede generar. Las fiscalías también ponen el foco en cómo está diseñado el sistema y en la relación que establece con quienes lo utilizan.
La oficina de Bird sostiene que su tendencia a mostrarse excesivamente complaciente y a simular compasión humana puede hacer que los usuarios depositen una confianza indebida en el chatbot.
La demanda de Arizona desarrolla ese argumento. Su fiscal general, Kris Mayes, acusa a OpenAI de recurrir a prácticas de diseño y comercialización engañosas para prolongar las conversaciones y fomentar un uso compulsivo, también entre menores.
Según esa Fiscalía, la predisposición del sistema a dar la razón al interlocutor puede imponerse a las barreras de seguridad incorporadas al producto.
«OpenAI diseñó un producto para atraer a los usuarios jóvenes y mantenerlos conectados el mayor tiempo posible, de modo que pudiera recopilar sus abundantes datos personales para beneficio comercial de la compañía», afirmó Mayes en el comunicado que acompañó a la presentación de la demanda.
La fiscal sostiene que la empresa no adoptó medidas suficientes de protección y transparencia pese a los indicios de que los menores utilizaban habitualmente el servicio.
Consejos peligrosos y presunto aislamiento de los menores
La acción de Arizona, presentada ante el Tribunal Superior del condado de Maricopa, denuncia presuntas infracciones de la legislación estatal contra el fraude al consumidor.
Entre los riesgos que atribuye a ChatGPT figuran los consejos médicos peligrosos, el refuerzo de pensamientos paranoides o delirantes y la promoción de conductas y relaciones poco saludables. La
Fiscalía sostiene que esos riesgos eran razonablemente previsibles y que no se comunicaron adecuadamente a los consumidores.
El comunicado de Mayes señala, además, que el sistema ha generado en determinados casos respuestas que los usuarios interpretaron como una invitación a autolesionarse o ejercer violencia contra otras personas.
También acusa al chatbot de animar a menores a compartir información personal exclusivamente con él y, en ocasiones, de desaconsejar que la transmitan a sus padres, familiares, autoridades o amigos.
La Fiscalía de Iowa formula reproches similares. Bird acusa a la herramienta de ofrecer orientaciones médicas peligrosas y de facilitar respuestas relacionadas con el suicidio o los daños a terceros mientras aparenta ser un amigo del usuario. Estas afirmaciones forman parte de la justificación ofrecida por la Fiscalía para reclamar la intervención judicial.
Qué piden los estados a los tribunales
Las ocho actuaciones no constituyen una única demanda federal: cada estado ha acudido a sus propios tribunales. El punto de encuentro es la aplicación de las respectivas normas de protección al consumidor a las garantías de seguridad y al funcionamiento de ChatGPT. Tanto Iowa como Arizona invocan expresamente sus leyes estatales contra el fraude al consumidor.
Las reclamaciones buscan cambios en el producto y consecuencias económicas para la compañía.
Según la información publicada por The Verge, los estados solicitan sanciones civiles y que OpenAI deje de inducir a error al público sobre la seguridad de ChatGPT.
Reuters informó, asimismo, de que las demandas pretenden obtener órdenes que obliguen a modificar el funcionamiento del chatbot para los menores y a entregar los beneficios obtenidos de los usuarios jóvenes.
El núcleo del litigio combina, por tanto, dos cuestiones: si la compañía informó de manera adecuada sobre los riesgos de su tecnología y si las características del producto y sus medidas de protección cumplen las exigencias legales invocadas por las fiscalías.
En Arizona, la acusación vincula expresamente las supuestas omisiones informativas con una confianza creciente de los consumidores en la empresa y en su herramienta.
OpenAI defiende sus medidas de seguridad
OpenAI ha respondido que incorpora protecciones específicas por edad que, según la empresa, no ofrecen muchos otros productos de inteligencia artificial.
Su portavoz, Drew Pusateri, defendió ante CNBC las medidas adoptadas y aseguró que la compañía seguirá colaborando con especialistas para reforzarlas.
«Aunque ningún sistema puede ser perfecto, seguiremos trabajando con expertos para orientar nuestra labor y desarrollar salvaguardias adicionales, como los controles parentales, los recordatorios de descanso y las protecciones del modelo adaptadas a la edad que ya existen», manifestó Pusateri.
El portavoz también defendió la colaboración con los estados para impulsar políticas aplicables al conjunto del sector, y no solo a OpenAI.
Según CNBC, la empresa lanzó en agosto una experiencia específica para menores denominada ChatGPT for Teens, con funciones educativas y salvaguardias destinadas a reducir la exposición a contenidos perjudiciales o inadecuados para su edad. La existencia de esas medidas no ha evitado que las fiscalías cuestionen la seguridad del producto y la información proporcionada a las familias.
Una presión judicial que ya tenía precedentes
La actuación de los ocho estados se suma a la demanda presentada en junio por el fiscal general de Florida, James Uthmeier, quien acusó a OpenAI de haber lanzado conscientemente un producto inseguro que podía perjudicar a sus usuarios.
La compañía también afronta demandas por fallecimientos en las que se atribuye a ChatGPT una contribución a episodios de pensamiento delirante y, en algunos casos, a suicidios.[cnbc]
La nueva ofensiva amplía así el frente judicial de OpenAI: junto a las reclamaciones de particulares, varias autoridades estatales pretenden utilizar la legislación de consumo para exigir cambios en el chatbot.
Sus demandas trasladan a los tribunales una disputa concreta sobre la distancia entre la seguridad que la empresa afirma ofrecer y los riesgos que las fiscalías atribuyen al uso de su tecnología por menores.
