Florida se convirtió en el primer estado de Estados Unidos en demandar a OpenAI, la empresa detrás de ChatGPT, acusándola de priorizar el crecimiento de la inteligencia artificial sobre la seguridad de los usuarios, especialmente de los menores de edad.
La demanda también incluye personalmente al director ejecutivo de la compañía, Sam Altman, a quien las autoridades estatales buscan responsabilizar por los presuntos daños causados a residentes de Florida, indica la nota de El Diario NY, indica la nota de El Diario NY.
La acción legal marca una nueva etapa en el creciente escrutinio que enfrentan las empresas de inteligencia artificial por el impacto que sus herramientas podrían tener en la salud mental, la seguridad y el comportamiento de sus usuarios.
Florida acusa a OpenAI de ocultar riesgos
La demanda fue presentada el lunes ante el Décimo Circuito Judicial de Florida y acusa a OpenAI de prácticas comerciales engañosas e injustas, negligencia y violaciones a las leyes de responsabilidad por productos.
Según el documento judicial, la empresa habría promovido ChatGPT como una herramienta segura y confiable sin advertir adecuadamente sobre posibles riesgos para los usuarios.
La demanda sostiene que OpenAI creó lo que describe como una molestia pública peligrosa y que no implementó medidas suficientes para proteger a niños y adolescentes.
El fiscal general acusa a la empresa de poner las ganancias primero
Durante una conferencia de prensa, el fiscal general de Florida, James Uthmeier, lanzó fuertes críticas contra la compañía y su director ejecutivo.
“Sam Altman y ChatGPT han elegido la carrera de la IA por encima de la seguridad y protección de nuestros hijos. Han elegido las ganancias por encima de la seguridad pública, y no vamos a tolerarlo aquí en Florida”, declaró.
Uthmeier aseguró además que las sanciones podrían ascender a cifras extraordinarias.
“Podrían ser responsables de potencialmente miles de millones de dólares”, afirmó.
La demanda también busca que Altman sea considerado personalmente responsable de los daños supuestamente ocasionados a los residentes del estado.
Las acusaciones incluyen tiroteos, suicidios y adicción
El documento judicial enumera una larga lista de presuntos perjuicios asociados al uso de ChatGPT.
Entre las acusaciones se encuentran:
- Ayudar a tiradores masivos.
–Incentivar el suicidio entre personas vulnerables.
–Provocar humillación pública.
–Generar dependencia en menores de edad.
–Reducir habilidades de pensamiento crítico.
–Recopilar datos de niños sin supervisión adecuada de los padres.
La demanda afirma que OpenAI creó una herramienta que finge compasión humana para recopilar sus datos sin supervisión parental.
Asimismo, sostiene que los problemas denunciados son consecuencia de la insaciable búsqueda de los demandados por ganar la carrera armamentista de la IA y acumular grandes fortunas, a pesar de conocer el peligro de ChatGPT.
El caso gira especialmente en torno a la protección de menores
Uno de los principales argumentos de Florida es que los controles parentales actuales son insuficientes.
Según la demanda, la versión gratuita de ChatGPT carece de mecanismos efectivos de verificación de edad y no exige que las cuentas de menores estén vinculadas a una cuenta parental.
Además, el estado sostiene que incluso cuando existe una vinculación entre cuentas, los padres solo reciben alertas en situaciones limitadas y no pueden acceder a la información que sus hijos comparten con el chatbot.
La investigación está relacionada con el tiroteo en la Universidad Estatal de Florida
La demanda civil surge mientras Florida desarrolla una investigación criminal separada sobre OpenAI.
Dicha investigación analiza si la empresa podría tener alguna responsabilidad en el tiroteo ocurrido en la Universidad Estatal de Florida (FSU) en abril de 2025.
Las autoridades afirman que el presunto atacante mantuvo extensas conversaciones con ChatGPT antes del ataque, incluyendo preguntas relacionadas con tiroteos masivos en la universidad y el uso de armas.
OpenAI ha rechazado cualquier responsabilidad en ese caso.
En abril, un portavoz de la empresa declaró: “El tiroteo fue una tragedia, pero ChatGPT no es responsable de este terrible crimen”.
La compañía añadió: “En este caso, ChatGPT proporcionó respuestas fácticas a preguntas con información que podía encontrarse ampliamente en fuentes públicas de internet y no alentó ni promovió actividades ilegales o dañinas”.
OpenAI defiende sus medidas de seguridad
La empresa respondió a las acusaciones mediante un comunicado enviado a diversos medios.
La portavoz Kayla Wood expresó: “Perder a un hijo es la tragedia más devastadora que puede ocurrirle a una familia y sabemos que ninguna palabra puede acercarse a aliviar el dolor de una pérdida así”.
OpenAI también defendió las medidas implementadas para proteger a menores.
“La IA es una tecnología nueva y poderosa, y creemos que los menores necesitan una protección significativa, por lo que hemos implementado políticas y protecciones líderes en la industria”.
La compañía destacó que entre sus medidas se encuentran:
- –Experiencias más restrictivas para menores.
–Herramientas de estimación de edad.
–Configuraciones de seguridad reforzadas cuando no se puede verificar la edad de un usuario.
–Herramientas para que los padres supervisen el uso de IA por parte de sus hijos.
Además, OpenAI aseguró: “Sabemos que señalar este trabajo no devolverá a un niño, pero estamos comprometidos a hacerlo bien”.
Más de 20 demandas ya han sido presentadas contra OpenAI
El caso de Florida se suma a una creciente ola de litigios relacionados con la inteligencia artificial.
Según NPR, más de 20 demandas han sido presentadas contra OpenAI por supuestos daños derivados del uso de ChatGPT.
Entre ellas figuran demandas de familiares de víctimas de tiroteos, personas que afirman haber sufrido delirios psicológicos y familias de personas que murieron por suicidio tras interactuar con chatbots.
OpenAI ha calificado esas situaciones como increíblemente desgarradoras y afirma estar trabajando con especialistas en salud mental para mejorar las respuestas del sistema ante señales de crisis emocionales.
Otras empresas de IA también enfrentan demandas
La presión legal no se limita a OpenAI.
En enero, Kentucky demandó a Character.AI acusando a la compañía de explotar a menores y conducirlos hacia conductas autolesivas.
Posteriormente, Pennsylvania presentó otra demanda contra esa misma empresa por permitir que algunos chatbots se hicieran pasar por médicos y ofrecieran consejos médicos.
Character.AI ha respondido que su máxima prioridad es la seguridad y el bienestar de sus usuarios y que continúa desarrollando medidas de protección para adolescentes.
Mientras tanto, Florida espera que otros estados se sumen a su iniciativa legal contra OpenAI, en un debate que podría definir el futuro regulatorio de la inteligencia artificial en Estados Unidos.
Por: Agencia