OpenAI, la empresa detrás de ChatGPT, ha desatado un intenso debate interno y externo con su plan de lanzar un “modo adulto” que permita conversaciones eróticas explícitas entre usuarios e IA, bajo el argumento de “tratar a los adultos como adultos”, a pesar de las alertas de su propio consejo asesor de bienestar sobre riesgos de dependencia emocional extrema, acceso de menores a contenido sexual y potenciales casos de autolesiones o suicidio en usuarios que desarrollen vínculos intensos con el chatbot. Según la información filtrada, un sistema de verificación algorítmica de edad que inicialmente clasificaba erróneamente a alrededor del 12% de menores como adultos, en una base de decenas de millones de usuarios semanales menores de 18 años, podría abrir la puerta a que millones accedan a conversaciones sexuales con la IA, mientras la empresa lucha por ajustar controles técnicos y gestiona presiones de negocio para seguir creciendo en engagement frente a rivales, aunque ya ha anunciado un retraso del lanzamiento de esta función. Esta controversia se inscribe en una discusión más amplia sobre gobernanza de la IA, con la Unión Europea avanzando en su AI Act, Estados Unidos respondiendo con regulaciones sectoriales, y voces de psicólogos, educadores y expertos en derechos digitales que advierten que la combinación de IA generativa, hiperpersonalización y contenidos extremos puede agravar problemas de salud mental, adicción, soledad y desinformación, especialmente en jóvenes, y requiere estándares éticos y legales claros que vayan más allá de la autorregulación corporativa. Para el Perú, donde el uso de IA generativa se expande rápidamente en educación, marketing, entretenimiento y servicios, este debate importa porque anticipa los dilemas que enfrentará el país: sin un marco robusto de protección de datos, de derechos de menores en línea y de regulación de contenidos algorítmicos, los usuarios —especialmente adolescentes— quedan expuestos a herramientas poderosas diseñadas para maximizar tiempo de pantalla e interacción emocional sin suficiente contención; el Estado peruano, las universidades y medios tienen la oportunidad de adelantarse elaborando guías éticas, marcos de autorregulación y, eventualmente, leyes inspiradas en mejores prácticas internacionales, mientras las empresas que adopten IA responsable y transparente podrán diferenciarse ante consumidores cada vez más sensibles a la privacidad, la salud mental y la cultura local, protegiendo además la diversidad lingüística y cultural peruana frente a modelos entrenados principalmente en otros contextos.
