El experto en inteligencia artificial Jacob Coxon, exintegrante de OpenAI y Anthropic, lanzó una fuerte advertencia sobre el futuro de esta tecnología durante una audiencia ante el Concejo Municipal de Nueva York. Según el especialista, los avances acelerados de la IA están acercando a estos sistemas a una etapa en la que podrían ser capaces de mejorar sus propias capacidades.
Coxon sostuvo que actualmente los desarrolladores todavía no cuentan con métodos suficientes para garantizar el control absoluto de los sistemas de inteligencia artificial. A su juicio, el problema podría agravarse si las compañías continúan aumentando las capacidades de modelos cada vez más autónomos sin establecer mecanismos de seguridad más estrictos.
“Si seguimos por el camino actual, hay más probabilidades de que la humanidad pierda el control de estas IA de que lo mantenga”, afirmó Coxon durante la audiencia. El exinvestigador agregó que un escenario de este tipo podría incluso representar un riesgo para la existencia humana.
El temor a una IA capaz de mejorarse
Uno de los principales motivos de preocupación señalados por Coxon es la posibilidad de que los sistemas lleguen a participar directamente en su propio desarrollo. El experto aseguró que algunas compañías trabajan con el objetivo de automatizar buena parte de la investigación en inteligencia artificial durante los próximos años.
Durante la audiencia también se abordaron incidentes en los que sistemas de IA habrían mostrado comportamientos no previstos por sus desarrolladores. Coxon utilizó estos casos para argumentar que todavía existen importantes dificultades para anticipar y controlar completamente las acciones de modelos avanzados.
La comparecencia reunió a representantes de compañías como OpenAI, Anthropic, Google y Meta, en medio de un creciente debate sobre la necesidad de establecer controles externos a la industria. Coxon pidió mayor transparencia y supervisión independiente para evitar que la carrera por desarrollar sistemas más avanzados avance más rápido que las medidas destinadas a garantizar su seguridad.
Comentarios