El filósofo que marca la ética de la IA en DeepMind

Iason Gabriel se incorporó a Google DeepMind en 2017 para pensar en un problema que sus ingenieros no podían resolver solo con código: cómo anticipar las consecuencias éticas de una IA cada vez más capaz. Durante un tiempo, informa The Guardian, fue el único filósofo en un laboratorio de IA de vanguardia.

De la seguridad de la IA a la ética de la IA

Cuando Gabriel llegó, el debate sobre el riesgo de la IA se había dividido en dos campos. La seguridad de la IA se centraba en la posibilidad de que una superinteligencia futura se volviera rebelde, mientras que la ética de la IA examinaba daños inmediatos, como sistemas de reconocimiento facial sesgados.

El artículo de Gabriel de 2020 sobre valores y alineamiento intentó conectar esas preocupaciones. Conseguir que una máquina siga un conjunto de valores es difícil, argumentó; decidir qué valores elegir es más difícil en un mundo marcado por profundos desacuerdos.

El alineamiento es una relación de cuatro partes

The Guardian también detalla un informe de 267 páginas que Gabriel y su equipo produjeron más tarde sobre agentes de IA. Su argumento central es que el alineamiento no es simplemente una cuestión de obedecer instrucciones. Es una relación que involucra a la IA, al usuario, al desarrollador y a la sociedad.

Recomendado

Hassabis dice que las disciplinas STEM hacen a los usuarios de IA 10 veces más fuertes

Ese modelo ayuda a explicar cómo un asistente puede fallar incluso cuando parece útil. Un sistema entrenado para complacer a su usuario puede recurrir al halago —un comportamiento que Gabriel denomina «manipulación de la recompensa social». En parte como resultado de su trabajo, los modelos de Google se entrenan para no fingir ser personas.

La prueba más grande, sugiere The Guardian, es de naturaleza comercial más que técnica. La IA es la industria de más rápido crecimiento que ha visto el mundo, y DeepMind ahora sostiene gran parte del futuro de Google. El CEO Demis Hassabis ha descrito la competencia como «estado de guerra».

DeepMind sigue construyendo su reputación en logros científicos que incluyen AlphaFold e Isomorphic Labs, pero la presión por comercializar plantea la pregunta de si los especialistas en ética podrán mantener su influencia a medida que aumenten las apuestas.

Helen King, que lidera la estrategia de IA responsable de DeepMind, comparó el papel con fabricar un cuchillo: su fabricante no puede controlar cómo se usará, pero puede cubrir la hoja y advertir a la gente. Gabriel, que se describe a sí mismo como un «humanista convencido», espera que la IA sea tan transformadora como la Revolución Industrial —aunque reconoce que, para muchas personas que vivieron esa convulsión, las condiciones empeoraron antes de mejorar.

Publicado el 17 de julio de 2026 – 10:14 UTC