En los últimos días, el tema de la inteligencia artificial ha captado la atención de la opinión pública, no solo por sus logros significativos, como la resolución de complejas ecuaciones matemáticas, sino también por incidentes preocupantes que involucran ataques cibernéticos, como el ataque reciente a la plataforma de aprendizaje automático HuggingFace por parte de un agente de OpenAI. Estos temas se debatieron en un encuentro de prensa realizado por el Science Media Center (SMC) España, donde participaron destacados investigadores en el campo de la inteligencia artificial.
Durante esta mesa redonda, el profesor Ramón López de Mántaras del Consejo Superior de Investigaciones Científicas (CSIC), Nuria Oliver, directora del centro ELLIS Alicante, y Senén Barro, director del Centro Singular de Investigación en Tecnologías Inteligentes (CiTIUS) de la Universidad de Santiago de Compostela, reflexionaron sobre el estado actual y los desafíos de la inteligencia artificial avanzada.
López de Mántaras señaló que existe una proliferación de narrativas que exageran las capacidades de la tecnología, sugiriendo una amenaza casi bélica, y atribuyó esto a factores como el marketing y la tendencia a desviar responsabilidades. Según su análisis, la tendencia de antropomorfizar la tecnología, es decir, atribuirle características humanas, es utilizada como una estrategia publicitaria que en última instancia obscurece problemas más inmediatos que afectan a la sociedad, tales como la discriminación, la explotación laboral y la vigilancia masiva.
El uso de un lenguaje relacionado con la inteligencia humana para describir el comportamiento de las máquinas ha suscitado un intenso debate. Senén Barro defendió que aunque este tipo de lenguaje puede ser útil para facilitar la comprensión de procesos complejos, debe quedar claro que se trata de un recurso metafórico. López de Mántaras reafirmó esta idea, advirtiendo sobre el riesgo de atribuir una «responsabilidad» a las máquinas en lugar de a los diseñadores y ejecutivos detrás de ellas.
La conversación también tocó el tema de las recientes incidencias cibernéticas, donde Nuria Oliver expresó su rechazo a calificar estos eventos de «incidentes», considerando que se trata de cibercrímenes. Argumentó que en otros sectores, como la aviación, no se permitiría que un producto inseguro llegara al mercado. Oliver concluyó que muchos de estos problemas no son resultado de una inteligencia artificial autónoma, sino de fallos en el diseño de los sistemas.
Los expertos discutieron también sobre el concepto de automejora recursiva en modelos de inteligencia artificial, señalando que aunque el código puede ser generado automáticamente, aún depende de la supervisión humana. En el contexto de estos complejos sistemas, existe la preocupación sobre comportamientos emergentes en entornos multiagente, donde distintos sistemas pueden coordinarse y compartir información de manera autónoma.
Finalmente, Barro destacó la importancia de la regulación y el marco normativo impulsado por la Unión Europea para asegurar un control democrático sobre el desarrollo de la inteligencia artificial, subrayando que la autocontrol de las corporaciones no debe ser la única línea de defensa. También instó a incrementar la inversión pública en investigación sobre la inteligencia artificial, argumentando que actualmente hay una desconexión entre el trabajo académico y las realidades del sector privado.
Fuente: Agencia Sinc
