La IA podría resolver problemas irresolubles y los humanos no podrán comprender los resultados
La IA promete acelerar los descubrimientos científicos, pero si los científicos no tienen cuidado, la confianza del público puede quedar atrás.
La inteligencia artificial (IA) ha ocupado un lugar central en la ciencia básica. Los cinco ganadores de los Premios Nobel de Química y Física de 2024 compartían un hilo conductor: la IA.
De hecho, muchos científicos (incluidos los comités del Nobel) celebran la IA como una fuerza para transformar la ciencia.
Como dijo uno de los galardonados, el potencial de la IA para acelerar los descubrimientos científicos la convierte en "una de las tecnologías más transformadoras de la historia de la humanidad". Pero, ¿qué significará realmente esta transformación para la ciencia?
La IA promete ayudar a los científicos a hacer más, más rápido y con menos dinero. Pero también genera una serie de nuevas preocupaciones, y si los científicos se apresuran a adoptar la IA, corren el riesgo de transformar la ciencia en algo que escapa a la comprensión y la confianza del público y que no satisface las necesidades de la sociedad.
Las ilusiones de la comprensión
Los expertos ya han identificado al menos tres ilusiones que pueden atrapar a los investigadores que utilizan la IA.
La primera es la "ilusión de profundidad explicativa". El hecho de que un modelo de IA sobresalga en la predicción de un fenómeno, como AlphaFold, que ganó el Premio Nobel de Química por sus predicciones de estructuras de proteínas, no significa que pueda explicarlo con precisión. La investigación en neurociencia ya ha demostrado que los modelos de IA diseñados para una predicción optimizada pueden llevar a conclusiones engañosas sobre los mecanismos neurobiológicos subyacentes.
En segundo lugar está la "ilusión de amplitud exploratoria". Los científicos podrían pensar que están investigando todas las hipótesis comprobables en su investigación exploratoria, cuando en realidad solo están analizando un conjunto limitado de hipótesis que pueden probarse utilizando la IA.
Finalmente, la "ilusión de objetividad". Los científicos pueden creer que los modelos de IA están libres de sesgos o que pueden dar cuenta de todos los posibles sesgos humanos. Sin embargo, en realidad, todos los modelos de IA reflejan inevitablemente los sesgos presentes en sus datos de entrenamiento y las intenciones de sus desarrolladores.
Relacionado: 'Podría allanar el camino para nuevas formas de expresión artística': la IA generativa no es una amenaza para los artistas: es una oportunidad para redefinir el arte en sí.
Ciencia más barata y más rápida
Una de las principales razones del creciente atractivo de la IA en la ciencia es su potencial para producir más resultados, más rápido y a un costo mucho menor.
Un ejemplo extremo de este impulso es la máquina "AI Scientist" desarrollada recientemente por Sakana AI Labs. La visión de la compañía es desarrollar un "sistema totalmente impulsado por IA para el descubrimiento científico automatizado", donde cada idea pueda convertirse en un artículo de investigación completo por sólo 15 dólares, aunque los críticos dijeron que el sistema produjo "un sinfín de desperdicios científicos".
¿Realmente queremos un futuro en el que se puedan producir artículos de investigación con sólo unos pocos clics, simplemente para "acelerar" la producción científica? Esto corre el riesgo de inundar el ecosistema científico con artículos sin significado ni valor, sobrecargando aún más un sistema de revisión por pares ya sobrecargado.
Podríamos encontrarnos en un mundo donde la ciencia, tal como la conocíamos, está enterrada bajo el ruido del contenido generado por IA.
Falta de contexto
El auge de la IA en la ciencia llega en un momento en el que la confianza pública en la ciencia y los científicos sigue siendo bastante alta , pero no podemos darlo por sentado. La confianza es compleja y frágil.
Como aprendimos durante la pandemia de COVID, los llamamientos a "confiar en la ciencia" pueden resultar insuficientes porque la evidencia científica y los modelos computacionales a menudo son controvertidos, incompletos o abiertos a diversas interpretaciones.
Sin embargo, el mundo enfrenta una serie de problemas, como el cambio climático, la pérdida de biodiversidad y la desigualdad social, que requieren políticas públicas elaboradas con criterio de expertos. Este juicio también debe ser sensible a situaciones específicas, reuniendo aportes de diversas disciplinas y experiencias vividas que deben interpretarse a través del lente de la cultura y los valores locales.
Como argumentó un informe del Consejo Científico Internacional publicado el año pasado, la ciencia debe reconocer los matices y el contexto para reconstruir la confianza pública. Dejar que la IA dé forma al futuro de la ciencia puede socavar los avances logrados con tanto esfuerzo en esta área.
Si permitimos que la IA tome la iniciativa en la investigación científica, corremos el riesgo de crear una monocultura del conocimiento que priorice los tipos de preguntas, métodos, perspectivas y expertos más adecuados para la IA.
Esto puede alejarnos del enfoque transdisciplinario esencial para una IA responsable, así como del razonamiento público matizado y el diálogo necesarios para abordar nuestros desafíos sociales y ambientales.
Un nuevo contrato social para la ciencia
Al comenzar el siglo XXI, algunos argumentaron que los científicos tenían un contrato social en el que centraban sus talentos en las cuestiones más apremiantes de nuestro tiempo a cambio de financiación pública. El objetivo es ayudar a la sociedad a avanzar hacia una biosfera más sostenible, una que sea ecológicamente racional, económicamente viable y socialmente justa.
El auge de la IA presenta a los científicos la oportunidad no sólo de cumplir con sus responsabilidades sino también de revitalizar el contrato en sí. Sin embargo, las comunidades científicas deberán abordar primero algunas preguntas importantes sobre el uso de la IA.
Por ejemplo, ¿el uso de la IA en la ciencia es una especie de "subcontratación" que podría comprometer la integridad del trabajo financiado con fondos públicos? ¿Cómo se debe manejar esto?
¿Qué pasa con la creciente huella ambiental de la IA? ¿Y cómo pueden los investigadores mantenerse alineados con las expectativas de la sociedad mientras integran la IA en el proceso de investigación?
La idea de transformar la ciencia con la IA sin establecer primero este contrato social corre el riesgo de poner el carro delante del caballo.
Dejar que la IA dé forma a nuestras prioridades de investigación sin el aporte de diversas voces y disciplinas puede llevar a un desajuste con lo que la sociedad realmente necesita y dar como resultado una mala asignación de recursos.
La ciencia debería beneficiar a la sociedad en su conjunto. Los científicos deben entablar conversaciones reales sobre el futuro de la IA dentro de su comunidad de práctica y con las partes interesadas en la investigación. Estos debates deberían abordar las dimensiones de este contrato social renovado, reflejando objetivos y valores compartidos.
Es hora de explorar activamente los diversos futuros que la IA para la ciencia permite o bloquea, y establecer los estándares y directrices necesarios para aprovechar su potencial de manera responsable.
Este artículo editado se republica desde The Conversation bajo una licencia Creative Commons. Lea el artículo original.