Un nuevo punto de referencia AGI indica si un futuro modelo de IA podría causar un "daño catastrófico"
Los científicos de OpenAI han diseñado MLE-bench, una recopilación de 75 pruebas extremadamente difíciles que pueden evaluar si un futuro agente avanzado de IA es capaz de modificar su propio código y mejorarse a sí mismo.
Cuando compra a través de enlaces en nuestro sitio, podemos ganar una comisión de afiliado. Así es como funciona.
Los científicos han diseñado un nuevo conjunto de pruebas que miden si los agentes de inteligencia artificial (IA) pueden modificar su propio código y mejorar sus capacidades sin instrucción humana.
El punto de referencia, denominado "MLE-bench", es una compilación de 75 pruebas de Kaggle, cada una de las cuales es un desafío que pone a prueba la ingeniería de aprendizaje automático. Este trabajo implica entrenar modelos de IA, preparar conjuntos de datos y ejecutar experimentos científicos, y las pruebas de Kaggle miden qué tan bien se desempeñan los algoritmos de aprendizaje automático en tareas específicas.
Los científicos de OpenAI diseñaron MLE-bench para medir qué tan bien se desempeñan los modelos de IA en la "ingeniería de aprendizaje automático autónomo", que es una de las pruebas más difíciles que puede enfrentar una IA. Describieron los detalles del nuevo punto de referencia el 9 de octubre en un documento subido a la base de datos de preimpresión arXiv.
Cualquier futura IA que obtenga una buena puntuación en las 75 pruebas que componen MLE-bench puede considerarse lo suficientemente potente como para ser un sistema de inteligencia general artificial (AGI), una IA hipotética que es mucho más inteligente que los humanos, afirman los científicos. dicho.
Relacionado: La IA 'Future You' te permite hablar con una versión de ti mismo de 60 años y tiene sorprendentes beneficios para el bienestar
Cada una de las 75 pruebas de banco MLE tiene un valor práctico en el mundo real. Los ejemplos incluyen OpenVaccine, un desafío para encontrar una vacuna de ARNm para COVID-19, y el Vesuvius Challenge para descifrar pergaminos antiguos.
Si los agentes de IA aprenden a realizar tareas de investigación de aprendizaje automático de forma autónoma, podría tener numerosos impactos positivos, como acelerar el progreso científico en la atención médica, la ciencia climática y otros dominios, escribieron los científicos en el artículo. Pero, si no se controla, podría conducir a un desastre absoluto.
"La capacidad de los agentes para realizar investigaciones de alta calidad podría marcar un paso transformador en la economía. Sin embargo, los agentes capaces de realizar tareas de investigación de ML abiertas, al nivel de mejorar su propio código de entrenamiento, podrían mejorar las capacidades de los modelos de frontera. significativamente más rápido que los investigadores humanos", escribieron los científicos. "Si las innovaciones se producen más rápido que nuestra capacidad para comprender sus impactos, corremos el riesgo de desarrollar modelos capaces de causar daños catastróficos o mal uso sin desarrollos paralelos para asegurar, alinear y controlar dichos modelos".
Agregaron que cualquier modelo que pueda resolver una "gran fracción" del banco MLE probablemente pueda ejecutar muchas tareas abiertas de aprendizaje automático por sí solo.
Los científicos probaron el modelo de IA más potente de OpenAI diseñado hasta ahora, conocido como "o1". Este modelo de IA logró al menos el nivel de una medalla de bronce de Kaggle en el 16,9% de las 75 pruebas en MLE-bench. Esta cifra mejoró cuanto más intentos se le dieron a O1 para asumir los desafíos.
Ganar una medalla de bronce equivale a estar entre el 40% superior de participantes humanos en la clasificación de Kaggle. El modelo o1 de OpenAI logró un promedio de siete medallas de oro en MLE-bench, que son dos más de las que se necesitan para ser considerado un "Gran Maestro Kaggle". Sólo dos humanos han logrado medallas en las 75 competiciones diferentes de Kaggle, escribieron los científicos en el artículo.
Los investigadores ahora están abriendo MLE-bench para impulsar más investigaciones sobre las capacidades de ingeniería de aprendizaje automático de los agentes de IA, lo que esencialmente permite a otros investigadores probar sus propios modelos de IA contra MLE-bench. "En última instancia, esperamos que nuestro trabajo contribuya a una comprensión más profunda de las capacidades de los agentes para ejecutar de forma autónoma tareas de ingeniería de ML, lo cual es esencial para el despliegue seguro de modelos más potentes en el futuro", concluyeron.