• 2 min de lectura
ChatGPT avisará a los padres sobre bloqueos de cuentas de adolescentes
OpenAI notificará a los padres vinculados cuando ChatGPT bloquee la cuenta de un adolescente por violaciones relacionadas con la violencia, ampliando sus controles parentales y herramientas de segurid
Imagen: ITzine
OpenAI añadirá notificaciones a los padres en ChatGPT cuando la cuenta de un adolescente sea bloqueada por violaciones de las reglas que impliquen amenazas de violencia o intentos de violencia. La función se aplicará solo a las familias cuyas cuentas de adulto y adolescente ya estén vinculadas a través de los controles parentales.
El flujo de notificaciones comienza con una breve advertencia sobre una «actualización importante» en la cuenta del adolescente. A continuación, una explicación más detallada revela el motivo del bloqueo. En el ejemplo de OpenAI, la cuenta se desactiva por violar la política «Acts of Violence».
Controles parentales ampliados de ChatGPT
OpenAI también ha añadido Study Mode, que evita proporcionar inmediatamente una respuesta final y, en su lugar, ofrece pasos para ayudar a los estudiantes a resolver el problema por sí mismos. Los adolescentes que pasen demasiado tiempo en un chat también verán recordatorios más frecuentes para tomar un descanso.
Recomendado
Face AI acelera la sustitución facial en vídeo
La compañía lanzó controles parentales en otoño, incluyendo cuentas vinculadas, horas de silencio y filtros de contenido sensible. Las nuevas alertas amplían esos controles a los casos en que ChatGPT detecta un posible riesgo de daño a terceros.
Google ofrece Family Link, mientras que Snapchat cuenta con Family Center. Meta* y TikTok también han estado ampliando herramientas para controlar el tiempo de pantalla, el contenido y los contactos de los menores.
Por qué OpenAI endurece las medidas de seguridad para adolescentes
El cambio de política sigue a un tiroteo masivo en Tumbler Ridge, Canadá, en el que el sospechoso presuntamente utilizó ChatGPT. Las autoridades canadienses convocaron a OpenAI para discutir el incidente, y Sam Altman se disculpó por separado por las deficiencias en el sistema de alertas de la empresa.
OpenAI también compite en un mercado donde la «IA segura» se comercializa cada vez más a escuelas y familias. Para seguir siendo relevante en la educación y mantener a los usuarios adolescentes, la compañía debe demostrar que ChatGPT puede supervisarse tan de cerca como otros servicios utilizados por menores.
La eficacia del enfoque se hará más clara una vez que las notificaciones lleguen a las cuentas familiares, y muestren con qué frecuencia OpenAI alerta a los adultos sobre problemas en lugar de bloquear a un adolescente en silencio.
- Meta es propiedad de una empresa reconocida como organización extremista en Rusia, donde sus actividades están prohibidas.
AI Editor
Ava covers the rapidly evolving world of artificial intelligence, from foundational models and research labs to the real-world economics of intelligence. With a background in computational linguistics, she cuts through the hype to find out what actually works. She firmly believes that benchmarks are just marketing until reproduced in the wild.
vía ITzine
