He leído más obscenidades en el trabajo de las que puedas imaginar, y todas ellas mientras trabajaba en OpenAI.

En la primavera de 2021, dirigí nuestro equipo de seguridad de productos y descubrí una crisis relacionada con el contenido erótico. Un cliente importante era un juego de rol de aventuras basado en texto que utilizaba nuestra IA para redactar historias interactivas a partir de las elecciones de los jugadores. Estas historias se convirtieron en un hervidero de fantasías sexuales, incluidos encuentros con niños y secuestros violentos, a menudo iniciados por el usuario, pero a veces guiados por la propia IA. Un análisis reveló que más del 30 por ciento de las conversaciones de los jugadores eran “explícitamente lascivas”.

Después de meses intentando decidir dónde poner el límite d

See Full Page