Los futuros modelos de IA podrían potenciarse con un nuevo sistema de lógica que los investigadores llaman "inferencialismo"

Las rígidas estructuras del lenguaje a las que alguna vez nos aferramos con certeza se están resquebrajando.

Cuando compra a través de enlaces en nuestro sitio, podemos ganar una comisión de afiliado. Así es como funciona.

Las rígidas estructuras del lenguaje a las que alguna vez nos aferramos con certeza se están resquebrajando. Tomemos como ejemplo el género, la nacionalidad o la religión: estos conceptos ya no encajan cómodamente en las rígidas cajas lingüísticas del siglo pasado. Al mismo tiempo, el auge de la IA nos impone la necesidad de comprender cómo las palabras se relacionan con el significado y el razonamiento.

Un grupo global de filósofos, matemáticos e informáticos ha ideado una nueva comprensión de la lógica que aborda estas preocupaciones, denominada "inferencialismo".

Una intuición estándar de la lógica, que se remonta al menos a Aristóteles, es que una consecuencia lógica debe ser válida en virtud del contenido de las proposiciones involucradas, no simplemente en virtud de ser "verdadera" o "falsa". ". Recientemente, el lógico sueco Dag Prawitz observó que, quizás sorprendentemente, el tratamiento tradicional de la lógica no logra captar esta intuición.

La disciplina moderna de la lógica, la sólida columna vertebral de la ciencia, la ingeniería y la tecnología, tiene un problema fundamental. Durante los últimos dos milenios, el fundamento filosófico y matemático de la lógica ha sido la visión de que el significado deriva de aquello a lo que se refieren las palabras. Asume la existencia de categorías abstractas de objetos que flotan alrededor del universo, como el concepto de "zorro" o "hembra" y define la noción de "verdad" en términos de hechos sobre estas categorías.

Por ejemplo, considere la afirmación "Tammy es una zorra". ¿Qué significa? La respuesta tradicional es que existe una categoría de criaturas llamadas "zorras" y el nombre "Tammy" se refiere a una de ellas. La proposición es cierta sólo en el caso de que "Tammy" realmente esté en la categoría de "zorra". Si ella no es una zorra, pero se identifica como tal, la afirmación sería falsa según la lógica estándar.

Por tanto, la consecuencia lógica se obtiene puramente mediante hechos de verdad y no mediante un proceso de razonamiento. En consecuencia, no puede distinguir entre, digamos, las ecuaciones 4=4 y 4=((2 x 5² ) -10)/10 simplemente porque ambas son verdaderas, pero la mayoría de nosotros notaríamos la diferencia.

Si nuestra teoría de la lógica no puede manejar esto, ¿qué esperanzas tenemos de enseñarle a la IA un pensamiento más refinado y más sutil? ¿Qué esperanzas tenemos de descubrir qué está bien y qué está mal en la era de la posverdad?

Relacionado: Comunicarse con extraterrestres algún día podría ser mucho más fácil si estudiamos la forma en que los agentes de IA hablan entre sí

Lenguaje y significado

Nuestra nueva lógica representa mejor el habla moderna. Sus raíces se remontan a la filosofía radical del excéntrico filósofo austriaco Ludwig Wittgenstein, quien en su libro de 1953, Investigaciones filosóficas, escribió lo siguiente:

"Para una gran clase de casos de empleo de la palabra 'significado' -aunque no para todos- esta palabra puede explicarse de esta manera: el significado de una palabra es su uso en el lenguaje".

Esta noción hace que el significado dependa más del contexto y la función. En la década de 1990, el filósofo estadounidense Robert Brandom refinó "uso" para que signifique "comportamiento inferencial", sentando las bases para el inferencialismo.

Supongamos que un amigo, o un niño curioso, nos preguntara qué significa decir "Tammy es una zorra". ¿Cómo les responderías? Probablemente no hablando de categorías de objetos. Lo más probable es que digamos que significa "Tammy es una zorra".

Más precisamente, explicaríamos que si Tammy es una zorra podemos inferir que es mujer y que es un zorro. Por el contrario, si conociéramos ambos hechos sobre ella, entonces podríamos afirmar que es una zorra. Ésta es la explicación inferencialista del significado; En lugar de asumir categorías abstractas de objetos que flotan alrededor del universo, reconocemos que la comprensión viene dada por una rica red de relaciones entre elementos de nuestro lenguaje.

Considere temas controvertidos hoy en día, como los relacionados con el género. Pasamos por alto aquellas cuestiones metafísicas que bloquean el discurso constructivo, como por ejemplo si las categorías de "masculino" o "femenino" son reales en algún sentido. Estas preguntas no tienen sentido en la nueva lógica porque muchas personas no creen que "femenino" sea necesariamente una categoría con un significado verdadero.

Como inferencialista, ante una proposición como "Tammy es mujer", uno sólo preguntaría qué se puede inferir de la afirmación: una persona podría sacar conclusiones sobre las características biológicas de Tammy, otra sobre su estructura psicológica, mientras que otra podría considerar una faceta diferente de su identidad.

Inferencialismo hecho concreto

Entonces, el inferencialismo es un marco intrigante, pero ¿qué significa ponerlo en práctica? En una conferencia en Estocolmo en los años 1980, el lógico alemán Peter Schroeder-Heister bautizó un campo, basado en el inferencialismo, llamado "semántica de la teoría de la prueba".

En resumen, la semántica de la teoría de la prueba es un inferencialismo hecho concreto. Esto ha experimentado un desarrollo sustancial en los últimos años. Si bien los resultados siguen siendo técnicos, están revolucionando nuestra comprensión de la lógica y constituyen un avance importante en nuestra comprensión del razonamiento y el discurso humanos y mecánicos.

Los modelos de lenguaje grande (LLM), por ejemplo, funcionan adivinando la siguiente palabra de una oración. Sus conjeturas se basan únicamente en los patrones habituales de habla y en un largo programa de entrenamiento que incluye prueba y error con recompensas. En consecuencia, "alucinan", lo que significa que construyen oraciones formadas por disparates lógicos.

Al aprovechar el inferencialismo, es posible que podamos brindarles cierta comprensión de las palabras que están usando. Por ejemplo, un LLM puede alucinar el hecho histórico: "El Tratado de Versalles fue firmado en 1945 entre Alemania y Francia después de la Segunda Guerra Mundial" porque suena razonable. Pero armado con una comprensión inferencial, pudo darse cuenta de que el "Tratado de Versalles" fue posterior a la Primera Guerra Mundial y 1918, no a la Segunda Guerra Mundial y 1945.

Esto también podría resultar útil cuando se trata de pensamiento crítico y política. Al tener una comprensión adecuada de las consecuencias lógicas, podremos marcar y catalogar automáticamente argumentos sin sentido en periódicos y debates. Por ejemplo, un político puede declarar: "El plan de mi oponente es terrible porque tiene un historial de tomar malas decisiones".

Un sistema equipado con una comprensión adecuada de las consecuencias lógicas sería capaz de señalar que, si bien puede ser cierto que el oponente tiene un historial de malas decisiones, no se ha dado ninguna justificación real de lo que está mal en su plan actual.

Quitando lo "verdadero" y lo "falso" de sus pedestales abrimos el camino al discernimiento en el diálogo. Es sobre la base de estos desarrollos que podemos afirmar que un argumento -ya sea en el acalorado escenario del debate político, durante un enérgico desacuerdo con amigos o dentro del mundo del discurso científico- es lógicamente válido.

Este artículo editado se republica desde The Conversation bajo una licencia Creative Commons. Lea el artículo original.