El freno está debajo del acelerador

Editions:
🇮🇹 Italiano – 🇬🇧 English – 🇫🇷 Français – 🇦🇷Spanish – 🇭🇰 中文（繁體）

Durante años, la carrera de la inteligencia artificial tuvo una consigna bastante sencilla: más rápido, más potente, antes que el vecino.

Cada nuevo modelo debía superar al anterior. Cada empresa debía demostrar que estaba unos meses, unas semanas o, si fuera posible, quince minutos por delante de la competencia. La inteligencia artificial se convirtió así en una Fórmula 1 tecnológica donde nadie parecía demasiado interesado en preguntar por los frenos.

Hasta que los propios pilotos comenzaron a mirar la curva.

Dario Amodei, responsable de Anthropic; Sam Altman, al frente de OpenAI, y Elon Musk, fundador de xAI, coinciden ahora —con distintos matices y desde empresas que compiten ferozmente entre sí— en algo que hasta hace poco sonaba casi herético dentro del negocio: quizá convenga moderar la velocidad de la frontera tecnológica.

No deja de tener gracia.

Es algo parecido a que tres fabricantes de pólvora entren corriendo en la plaza del pueblo para anunciar que sería prudente empezar a hablar seriamente sobre los peligros de los fósforos.

Pero detrás de la ironía existe una cuestión muy seria.

La inteligencia artificial ya no avanza únicamente porque algunos científicos quieran descubrir hasta dónde puede llegar. Avanza porque existen compañías, inversiones gigantescas, mercados, prestigio, contratos y una competencia internacional en la que detenerse voluntariamente puede significar contemplar cómo el adversario continúa corriendo.

Ahí está el verdadero problema.

No necesariamente en que una inteligencia artificial despierte una mañana con mal humor y decida conquistar el planeta —fantasía estupenda para Hollywood—, sino en algo bastante más humano y, por eso mismo, posiblemente más peligroso: que nadie quiera ser el primero en frenar.

Si una empresa decide tomarse seis meses adicionales para comprobar la seguridad de un sistema y su competidora utiliza esos mismos seis meses para lanzar uno más poderoso, el mercado puede premiar al imprudente antes que al responsable.

Magnífica receta.

El bombero llega después del incendio porque previamente debía comprobar si apagarlo perjudicaba la cotización bursátil.

Por eso resulta importante la propuesta de abrir sistemas avanzados a evaluadores externos con un grado significativo de acceso. La vigilancia realizada exclusivamente por quien construye, comercializa y obtiene beneficios de una tecnología siempre deja una pregunta incómoda sobre la mesa: ¿quién controla al controlador?

La industria parece haber comenzado a comprenderlo. OpenAI, por ejemplo, ya sostiene públicamente que los modelos de frontera requieren evaluaciones, mecanismos de seguridad y participación de expertos externos; también respalda marcos de supervisión para los sistemas capaces de generar riesgos especialmente graves.

Pero tampoco conviene interpretar estas advertencias como el anuncio de que mañana por la mañana debemos desenchufar el ordenador y volver a la Olivetti.

La inteligencia artificial ofrece posibilidades extraordinarias. Ya está acelerando trabajos científicos complejos, ayudando en investigación y resolviendo tareas que hace muy pocos años estaban fuera del alcance de estos sistemas. El desafío sensato no consiste en detener esa capacidad, sino en evitar que la velocidad se convierta en el único criterio para decidir hacia dónde vamos.

Porque existe además una pequeña cuestión que Silicon Valley suele olvidar mientras contempla gráficos ascendentes: detrás de cada modelo hay sociedades.

Hay empleos, escuelas, universidades, periodistas, médicos, jueces, administraciones públicas, ejércitos, empresas y millones de ciudadanos que terminarán viviendo con las consecuencias de decisiones tomadas hoy por un grupo extraordinariamente pequeño de personas.

Y esas personas tampoco poseen una bola de cristal.

Que Amodei, Altman y Musk puedan coincidir en la necesidad de mirar con mayor atención el velocímetro merece ser escuchado precisamente porque son competidores, no compañeros de una asociación de jubilados tecnológicos.

Pero escuchar la advertencia no significa entregarles también el silbato, el reglamento y la policía de tránsito.

Si la tecnología puede adquirir una influencia comparable a las grandes infraestructuras económicas y sociales de nuestra época, su vigilancia no puede descansar exclusivamente sobre la buena voluntad de quienes compiten por dominarla.

Hace falta control independiente. Hace falta transparencia razonable. Hace falta investigación externa. Hace falta responsabilidad jurídica. Y, sobre todo, hace falta conservar algo maravillosamente anticuado:

tiempo para pensar.

La paradoja final tiene bastante salero.

Construimos máquinas para que piensen cada vez más rápido y ahora descubrimos que los humanos quizá necesitemos hacer exactamente lo contrario.

Pensar un poco más despacio.

Antes de apretar otra vez Enter.