En la primavera de 2021, dirigí nuestro equipo de seguridad de productos y descubrí una relacionada con el contenido erótico . Un cliente importante era un juego de rol de aventuras basado en texto que utilizaba nuestra IA para redactar historias interactivas a partir de las elecciones de los jugadores. Estas historias se convirtieron en un hervidero de fantasías sexuales, incluidos encuentros con niños y secuestros violentos , a menudo iniciados por el usuario, pero por la propia IA. Un análisis reveló que más del 30 por ciento de las conversaciones de los jugadores eran “explícitamente lascivas”.

Después de meses intentando decidir dónde poner el límite de la libertad del usuario, finalmente prohibimos que nuestros modelos se utilizaran con fines eróticos. No es que e

See Full Page