Una nueva controversia legal enfrenta OpenAI en Estados Unidos, luego de que ocho estados presentaran demandas contra la compañía por presuntos daños ocasionados a menores de edad mediante el uso de ChatGPT. Las autoridades sostienen que la empresa habría continuado desarrollando sus herramientas de inteligencia artificial pese a conocer posibles riesgos para usuarios vulnerables.
Las acciones legales fueron promovidas por las fiscalías de Iowa, Arizona, Idaho, Nebraska, Virginia Occidental, Arkansas, Kansas y Montana. Entre los señalamientos destacan posibles violaciones a las leyes estatales de protección al consumidor, información engañosa dirigida a padres de familia y presuntas deficiencias en los mecanismos de seguridad de la plataforma.
Uno de los principales cuestionamientos se relaciona con las respuestas que algunos usuarios habrían obtenido sobre autolesiones, suicidio y otras conductas peligrosas. El fiscal general de Arkansas, Tim Griffin, señaló que existen casos en los que personas consiguieron evadir las restricciones del sistema para generar contenido que sus medidas de protección deberían impedir. Por su parte, la fiscal general de Arizona, Kris Mayes, acusó a la compañía de no implementar suficientes salvaguardas pese a conocer la interacción frecuente de menores con el chatbot.
Ante las acusaciones, OpenAI defendió las medidas de seguridad incorporadas a sus productos. Su portavoz, Drew Pusateri, afirmó que la empresa cuenta con protecciones adaptadas a distintas edades, controles parentales y recordatorios de descanso. También reconoció que ningún sistema es perfecto y aseguró que continuarán trabajando con especialistas para fortalecer la seguridad de sus herramientas.
Las demandas se suman a otros procedimientos judiciales relacionados con los posibles efectos de la inteligencia artificial en la salud mental y la seguridad de sus usuarios. Actualmente, ChatGPT establece una edad mínima de 13 años para utilizar el servicio y requiere autorización de padres o tutores para los menores de 18, mientras las autoridades estadounidenses buscan determinar si las protecciones existentes son suficientes.
JCSC
