La promesa que sustenta el auge de la inteligencia artificial (IA) es que programar una computadora ya no es una habilidad arcana: un chatbot o un modelo de lenguaje extenso (LLM, en inglés) puede recibir instrucciones para realizar un trabajo útil con oraciones simples en inglés. Pero esa promesa también es la raíz de una debilidad sistémica .

HACÉ CLICK AQUÍ PARA UNIRTE AL CANAL DE WHATSAPP DE DIARIO PANORAMA Y ESTAR SIEMPRE INFORMADO

El problema surge porque los LLM no separan los datos de las instrucciones . En su nivel más bajo, se les entrega una cadena de texto y eligen la siguiente palabra. Si el texto es una pregunta, darán una respuesta. Si es una orden, intentarán seguirla.

Por ejemplo, podrías ordenar inocentemente a un agente de IA que resuma un documento externo de mi

See Full Page