Durante la emisión del programa A Esta Hora de Actualidad Radio, el economista y experto en tecnología Samir Estefan analizó el vertiginoso avance de la inteligencia artificial (IA) y los desafíos regulatorios que enfrenta la industria global. Frente al panorama geopolítico, el especialista destacó la intensa carrera contrarreloj entre las grandes potencias, especialmente de cara a la cumbre entre el presidente estadounidense Donald Trump y el mandatario chino Xi Jinping, donde el liderazgo tecnológico figurará como uno de los temas centrales.
Estefan señaló que la administración estadounidense ha optado por flexibilizar los frenos regulatorios heredados para asegurar la supremacía frente a Pekín. Sin embargo, advirtió sobre los riesgos éticos de acelerar el desarrollo sin marcos normativos claros:
«Al no tener un marco ético y moral, pues el algoritmo cumple con la tarea que le dan sin muchas veces saber que está haciendo algo que no se debe hacer». — Samir Estefan, experto en tecnología.
Avances científicos y los tres principios de control
Asimismo, el experto profundizó en las aplicaciones prácticas de la IA en la medicina y el desarrollo de software. Explicó que, aunque los modelos muestran una alta capacidad de autooptimización, crece la preocupación científica sobre el control de sistemas que evolucionan de manera autónoma.
Para evitar que las tecnologías pierdan los límites de control, Estefan subrayó la necesidad de aplicar tres principios fundamentales de alineación:
«Lo primero, que tengan esa alineación con las expectativas de los humanos y con ese marco moral de quien los está desarrollando; segundo, que podamos siempre tener un humano que pueda apagar ese algoritmo en el momento en que se necesite; y tercero, que no perdamos la posibilidad de estar involucrados como humanos». — Samir Estefan.
(AP Foto/Patrick Sison, Archivo)