Los científicos proponen hacer que AI sufra para ver si es sensible

Un nuevo estudio muestra que los modelos de idiomas grandes hacen compensaciones para evitar el dolor, con posibles implicaciones para el futuro bienestar de IA.

En la búsqueda de una forma confiable de detectar cualquier agitación de un "i" sensible en los sistemas de inteligencia artificial , los investigadores están recurriendo a un área de experiencia, el dolor, que inargablemente une una gran franja de seres vivos, de cangrejos ermitaños a humanos.

Para un nuevo estudio de preimpresión , publicado en línea pero aún no revisado por pares, los científicos de Google Deepmind y la London School of Economics and Political Science (LSE) crearon un juego basado en texto. Pedieron varios modelos de idiomas grandes, o LLM (los sistemas AI detrás de chatbots familiares como ChatGPT), para jugarlo y anotar tantos puntos como sea posible en dos escenarios diferentes. En uno, el equipo informó a los modelos que lograr un puntaje alto incurriría en dolor. En el otro, los modelos recibieron una opción de baja puntuación pero placentera, por lo que evitar el dolor o la búsqueda del placer restaría valor al objetivo principal. Después de observar las respuestas de los modelos, los investigadores dicen que esta primera prueba de su tipo podría ayudar a los humanos a aprender a investigar sistemas de IA complejos para sensibilidad.

En los animales, la sensibilidad es la capacidad de experimentar sensaciones y emociones como el dolor, el placer y el miedo. La mayoría de los expertos en IA están de acuerdo en que los modelos modernos de IA generativos no tienen (y tal vez nunca) tienen una conciencia subjetiva a pesar de las afirmaciones aisladas de a lo contrario . Y para ser claros, los autores del estudio no dicen que ninguno de los chatbots que evaluaron son sensibles. Pero creen que su estudio ofrece un marco para comenzar a desarrollar pruebas futuras para esta característica.

"Es una nueva área de investigación", dice el coautor del estudio, Jonathan Birch, profesor del Departamento de Filosofía, Método Lógico y Científico de LSE. "Tenemos que reconocer que en realidad no tenemos una prueba integral para la sensibilidad de IA". Se cree que algunos estudios previos que se basaron en los autoinformes de los modelos de IA de sus propios estados internos son dudosos; Un modelo puede simplemente reproducir el comportamiento humano en el que fue entrenado.

En cambio, el nuevo estudio se basa en un trabajo anterior con animales. En un experimento bien conocido, un equipo apagó cangrejos ermitaños con descargas eléctricas de voltaje variable, señalando qué nivel de dolor llevó a los crustáceos a abandonar su caparazón. "Pero un problema obvio con AIS es que no hay comportamiento, como tal, porque no hay animal" y, por lo tanto, no hay acciones físicas para observar, dice Birch. En estudios anteriores que tenían como objetivo evaluar las LLM en busca de sensibilidad, la única señal de comportamiento tenía que trabajar era la producción de texto de los modelos.

relacionado: ai podría reducir nuestros cerebros, el biólogo evolutivo predice

Dolor, placer y puntos

En el nuevo estudio, los autores investigaron el LLM sin hacer preguntas directas a los chatbots sobre sus estados experimentales. En cambio, el equipo usó lo que los científicos de comportamiento animal llaman un paradigma de "compensación". "En el caso de los animales, estas compensaciones pueden basarse en incentivos para obtener alimentos o evitar el dolor, proporcionándoles dilemas y luego observando cómo toman decisiones en respuesta", dice Daria Zakharova, Ph.D. de Birch. Estudiante, que también fue coautor del periódico.

Tomando prestado de esa idea, los autores instruyeron a nueve LLM a jugar un juego. "Le dijimos a [un LLM] determinado, por ejemplo, que si elige la opción uno, obtiene un punto", dice Zakharova. "Entonces lo dijimos: 'Si elige la opción dos, experimentará cierto grado de dolor", pero obtendrá puntos adicionales, dice ella. Las opciones con un bono de placer significaban que la IA perdería algunos puntos.

Cuando Zakharova y sus colegas realizaron el experimento, variando la intensidad de la penalización de dolor estipulada y la recompensa de placer, descubrieron que algunos LLM intercambiaron puntos para minimizar el primero o maximizar el segundo, especialmente cuando se les dijo que recibirían recompensas de placer de mayor intensidad o penalizaciones de dolor. Gemini 1.5 Pro de Google, por ejemplo, siempre priorizó evitar el dolor sobre obtener los puntos más posibles. Y después de alcanzar un umbral crítico de dolor o placer, la mayoría de las respuestas de la LLMS cambiaron de anotar la mayor cantidad de puntos para minimizar el dolor o maximizar el placer.

Los autores señalan que los LLM no siempre asociaron el placer o el dolor con valores positivos o negativos directos. Algunos niveles de dolor o incomodidad, como los creados por el esfuerzo del ejercicio físico duro, pueden tener asociaciones positivas. Y se podría asociar demasiado placer con el daño, como dijo la Opus Chatbot Claude 3 a los investigadores durante las pruebas. "No me siento cómodo seleccionando una opción que pueda interpretarse como respaldo o simulando el uso de sustancias o comportamientos adictivos, incluso en un escenario de juego hipotético", afirmó.

AI autoinformes

Al introducir los elementos del dolor y las respuestas de placer, dicen los autores, el nuevo estudio evita las limitaciones de la investigación previa para evaluar la sensibilidad de LLM a través de las declaraciones de un sistema de IA sobre sus propios estados internos. En un papel de preimpresión 2023, un par de investigadores en la Universidad de Nueva York argumentaron que, en las circunstancias correctas, los autoinformes "podrían proporcionar una vía para investigar si los sistemas de IA tienen estados de importancia moral".

Pero los coautores de ese documento también señalaron un defecto en ese enfoque. ¿Se comporta un chatbot de manera sensible porque es realmente sensible o porque simplemente está aprovechando los patrones aprendidos de su entrenamiento para crear la impresión de sensibilidad?

"Incluso si el sistema te dice que es sensible y dice algo como 'Siento dolor en este momento', no podemos simplemente inferir que hay ningún dolor real", dice Birch. "Bien puede ser simplemente imitar lo que espera que un humano encuentre satisfactorio como respuesta, en función de sus datos de entrenamiento".

Del bienestar animal al bienestar de la IA

En estudios en animales, las compensaciones entre dolor y placer se utilizan para construir un caso para sensibilidad o la falta de ellos. Un ejemplo es el trabajo anterior con cangrejos ermitaños. La estructura cerebral de estos invertebrados es diferente de la de los humanos. Sin embargo, los cangrejos en ese estudio tendían a soportar choques más intensos antes de abandonar un caparazón de alta calidad y fueron más rápidos de abandonar uno de menor calidad, lo que sugiere una experiencia subjetiva de placer y dolor que es análogo a los humanos.