El estado de Florida presentó una demanda civil contra OpenAI y su director ejecutivo, Sam Altman, acusando a la empresa de no implementar medidas adecuadas para proteger a niños y adolescentes que utilizan ChatGPT. Se trata de la primera demanda impulsada por un estado norteamericano contra la compañía de inteligencia artificial.
La acción judicial fue presentada por el fiscal general de Florida, James Uthmeier, quien sostiene que OpenAI priorizó el crecimiento y la expansión comercial de ChatGPT por encima de la seguridad de los usuarios más jóvenes. Según la demanda, la empresa habría ignorado advertencias internas y externas sobre posibles riesgos asociados al uso de la plataforma.
Entre los principales cuestionamientos figura la supuesta falta de mecanismos efectivos de verificación de edad y controles parentales suficientes para menores de edad. La acusación sostiene que el chatbot puede generar interacciones adictivas, influir negativamente en adolescentes vulnerables y exponerlos a contenidos potencialmente perjudiciales.
La demanda también menciona distintos casos que han generado preocupación en Estados Unidos sobre el impacto de los sistemas de inteligencia artificial en la salud mental y el comportamiento de algunos usuarios. Entre ellos aparecen investigaciones y litigios vinculados a episodios de violencia, autolesiones y suicidios en los que familiares o autoridades sostienen que existieron interacciones previas con herramientas de IA.
Florida busca que la Justicia imponga sanciones económicas y obligue a OpenAI a modificar sus prácticas de funcionamiento, especialmente en lo relacionado con la protección de menores. Además, la presentación judicial intenta atribuir responsabilidades personales a Sam Altman por las decisiones adoptadas durante el desarrollo y la expansión de ChatGPT.
Por su parte, OpenAI rechazó las acusaciones y afirmó que cuenta con múltiples medidas de seguridad destinadas a prevenir usos indebidos de sus sistemas. La compañía aseguró que ha reforzado herramientas de control parental, protocolos para detectar situaciones de riesgo y mecanismos para limitar respuestas relacionadas con violencia o autolesiones.
El caso se produce en medio de un creciente debate internacional sobre la regulación de la inteligencia artificial y la responsabilidad de las empresas tecnológicas frente a los posibles efectos de estas herramientas en niños y adolescentes. Diversos estados y gobiernos analizan actualmente nuevas normas para establecer controles más estrictos sobre el desarrollo y utilización de sistemas de IA generativa.
La demanda de Florida podría convertirse en un antecedente clave para futuras acciones judiciales contra compañías del sector y marcar un nuevo capítulo en la discusión global sobre los límites, riesgos y responsabilidades asociados a la inteligencia artificial.
Fuente: Política Argentina
