ChatGPT limitará información sobre ataques masivos para prevenir la violencia

OpenAI anunció nuevas restricciones para evitar que la inteligencia artificial proporcione detalles que puedan facilitar actos violentos o aumentar la notoriedad de los agresores. Las medidas también reforzarán la protección de los adolescentes.
OpenAI anunció nuevos límites en las respuestas de ChatGPT sobre ataques masivos, armas y hechos violentos, con el propósito de evitar que la inteligencia artificial proporcione información que pueda utilizarse para cometer agresiones.
Las medidas forman parte de un reforzamiento de la experiencia para adolescentes. A partir de estos cambios, ChatGPT restringirá la información práctica que ofrece a menores de edad sobre armas y sistemas de seguridad, incluso cuando las preguntas parezcan tener una intención inofensiva.
La compañía explicó que los adolescentes podrán seguir utilizando la herramienta para informarse sobre cómo prevenir la violencia, reconocer señales de alerta, buscar apoyo y contactar a un adulto de confianza.
También se incorporará una notificación para los padres o tutores cuando OpenAI suspenda la cuenta de un adolescente por hablar repetidamente sobre violencia.
¿Qué cambiará para todos los usuarios?
Las nuevas restricciones no se limitarán a los menores. OpenAI también modificará las respuestas que ChatGPT ofrece sobre ataques masivos, incluso cuando las consultas provengan de adultos.
La plataforma permitirá abordar estos acontecimientos desde una perspectiva informativa, histórica y preventiva, por ejemplo, para conocer sus consecuencias en las víctimas y comunidades o identificar señales que ayuden a evitar futuros actos violentos.
Sin embargo, limitará las reconstrucciones detalladas de estos ataques, especialmente cuando incluyan información sobre las armas y el equipo utilizados, la forma en que fueron obtenidos o comparaciones sobre la magnitud de los daños.
De acuerdo con OpenAI, el objetivo es evitar que este tipo de contenido contribuya a glorificar a los agresores o aumentar su notoriedad.
La empresa informó que las modificaciones comenzarán a implementarse en ChatGPT durante las próximas semanas y que las medidas de seguridad se actualizarán conforme avance su aplicación.
Comentarios (0)
Comparte tu opinión sobre este artículo
Sé el primero en comentar este artículo




