Una inteligencia compuesta por cabras en Age of Empires II
Adrian de Wynter, investigador de inteligencia artificial que trabaja para Microsoft y la Universidad de York en el Reino Unido.publicó un trabajo científico inusual. Decidió descubrir por qué la gente está tan dispuesta a tratar a los chatbots como personas reales. Grandes modelos de lenguaje conocidos de productos como ChatGPT o Claude. Responden preguntas de una manera que se asemeja al habla humana. Según de Wynter, es este tono de conversación el que hace que los usuarios olviden que están tratando con software.
Para demostrarlo, el investigador recreó el funcionamiento del modelo de lenguaje dentro de la estrategia. Era de los imperios IIutilizando únicamente cabras. En el editor de escenarios del juego, creó puertas NAND a partir de ellos. Estos son los elementos lógicos más simples de las computadoras. Cualquier sistema computacional, incluida la computadora completa, puede construirse a partir de dichas puertas. Entonces las cabras del juego servían como interruptores digitales.
La conclusión que quería llegar el investigador es simple. Si se puede recrear un modelo de lenguaje usando cabras en un juego de computadora, ladrillos Lego o un grupo de personas siguiendo órdenes simples, entonces es El comportamiento humano no resulta de la naturaleza del sistema.. Esta «humanidad» resulta de la forma en que se presenta este sistema y de las características que la gente le da (como proyección). De Wynter señala que el tono persuasivo y la coherencia de las respuestas se pueden medir de forma mensurable. Sin embargo, esto no prueba que detrás de ellos haya un «pensamiento» real o incluso simulado.
El experimento con la cabra parece una broma total, algo hecho para provocar la proverbial «risa». Pero detrás de todo esto había en última instancia un objetivo serio. Este estudio muestra que la impresión de hablar con alguien inteligente proviene principalmente de la forma en que el modelo de lenguaje está «envuelto» en un paquete atractivo.. No por lo que realmente está pasando debajo. La próxima vez que un chatbot responda de una manera muy humana, vale la pena recordar el rebaño de cabras en un juego de hace dos décadas.
El experimento contrasta con las tendencias actuales en el uso de la IA, que sirven cada vez más como sustitutos, por ejemplo, de los terapeutas.
