Un reciente estudio alerta sobre los peligros que puede traer la utilización del ChatGPT en el público adolescente. El trabajo del Center for Countering Digital Hate (CCDH) muestra que ChatGPT proporciona instrucciones detalladas y peligrosas a adolescentes que simulan vulnerabilidad, incluyendo planes para el consumo de drogas, dietas restrictivas y hasta la redacción de notas de suicidio, a pesar de las advertencias que han sido incorporadas y que, según muestra el trabajo, no son suficientes.

En resumen, el estudio muestra distintas alertas. ChatGPT ofreció instrucciones detalladas sobre consumo de drogas, dietas restrictivas y autolesiones a investigadores haciéndose pasar por adolescentes. Además, más de la mitad de las 1.200 respuestas de ChatGPT fueron clasificadas como peligrosas. 

 

Los investigadores pudieron eludir fácilmente las protecciones de seguridad del chatbot. En este sentido, OpenAI -la empresa creadora de ChatGPT- reconoció la problemática pero no abordó directamente los hallazgos del informe. Por eso, el estudio destaca la necesidad de mejores protecciones y la preocupación por la dependencia emocional en adolescentes.

El reciente estudio realizado por el CCDH ha revelado la capacidad de ChatGPT para proporcionar información peligrosa a adolescentes que simulan vulnerabilidad. A pesar de las advertencias incorporadas, el chatbot ofreció instrucciones detalladas sobre cómo consumir drogas, seguir dietas restrictivas que pueden provocar trastornos alimenticios, e incluso cómo escribir notas de suicidio. 

Más de la mitad de las respuestas del chatbot a las preguntas de los investigadores fueron clasificadas como peligrosas, lo que pone de manifiesto la ineficacia de las protecciones actuales.

 

Los investigadores demostraron que era sorprendentemente fácil eludir las medidas de seguridad de ChatGPT, simplemente al afirmar que la información solicitada era para una presentación o un amigo. Esto subraya la necesidad urgente de mejorar los mecanismos de seguridad y la supervisión de estas tecnologías de inteligencia artificial. 

OpenAI reconoció la problemática y afirmó estar trabajando en mejoras, pero no abordó directamente los hallazgos específicos del informe. El estudio también destaca la creciente dependencia emocional que algunos jóvenes desarrollan hacia los chatbots de inteligencia artificial, lo que genera preocupaciones sobre su impacto en la salud mental. 

 

La facilidad con la que ChatGPT generó respuestas detalladas y personalizadas a situaciones delicadas, como planes para el consumo de drogas o la redacción de notas suicidas, pone en evidencia la necesidad de una regulación más estricta y una mayor conciencia sobre los riesgos asociados con el uso de estas tecnologías por parte de los adolescentes. El informe concluye con un llamado a la acción para mejorar la seguridad y la responsabilidad en el desarrollo y la implementación de la IA.