Investigadores de la Universidad de Harvard trabajan para comprender qué ocurre dentro de los sistemas de inteligencia artificial y cómo llegan a determinadas respuestas o decisiones.
El desafío es conocido como la “caja negra” de la IA: aunque los investigadores pueden observar los datos que ingresan y las respuestas que produce un modelo, resulta mucho más difícil explicar con precisión qué procesos internos lo llevaron a una conclusión determinada.
Uno de los campos que intenta resolver este problema es la interpretabilidad mecanicista, que busca identificar los componentes internos de las redes neuronales y relacionarlos con comportamientos específicos.
En Harvard, investigadores del Kempner Institute desarrollan métodos para conectar las redes neuronales profundas con modelos que puedan ser comprendidos por los seres humanos. El objetivo no es solamente saber qué responde una IA, sino entender por qué responde lo que responde.
La importancia de esta investigación va más allá de la curiosidad científica. A medida que la inteligencia artificial se utiliza en áreas sensibles, como medicina, finanzas o decisiones de alto impacto, conocer sus mecanismos internos resulta fundamental para detectar errores, sesgos y comportamientos inesperados.
Harvard no está solo en esta carrera. Universidades y laboratorios de todo el mundo investigan nuevas técnicas para hacer que los sistemas de IA sean más transparentes y explicables.
El gran desafío sigue siendo convertir sistemas capaces de realizar tareas extraordinariamente complejas en tecnologías cuyo funcionamiento también pueda ser comprendido y supervisado por las personas.
