La ciencia de la pasta gansa

Por regla general, el escepticismo y la duda dotan al científico de cierta inmunidad ante sesgos cognitivos, aunque a veces sucumbe al atractivo de la especulación futurista, muy bien remunerada por millonarios obsesionados con no morir, manipular cerebros y mentes, colonizar Marte y, de paso, vender sus productos.

En esta carrera, la ciencia corre el riesgo de convertirse en charlatanería de gran titular. Es lo que N. Wiener, padre de la cibernética, llamó la «ciencia de la pasta gansa». El problema se acrecienta cuando decisores políticos sin conocimiento suficiente se dejan seducir por historias distópicas sin el mínimo atisbo de crítica razonada y las tiñen de ideología. Lo explica bien E. Larsen en 'Los mitos de la inteligencia artificial (IA)'.

El propio Wiener vaticinó hace 80 años que la computación anularía la creatividad individual y que la ciencia se convertiría en un «enjambre de científicos trabajando como una mente colectiva» sin propósito claro ni teoría que comprobar.

Los megaproyectos basados en el análisis masivo de datos por sistemas de IA abundan en la ciencia actual. Así, el Proyecto Cerebro Humano y la iniciativa BRAIN versan sobre computación tanto como sobre neurociencia. En ambos domina la idea de que cuantos más datos se acumulen, mejor, porque la IA se encargará de extraer el conocimiento relevante sobre la función cerebral. Los datos llenarán los huecos de la ignorancia. La concepción colectiva y tecnológica del trabajo científico es primordial cuando se persiguen objetivos tan ambiciosos como desvelar el funcionamiento del cerebro, pero no debería menospreciarse la creatividad individual.

Generar hipótesis y discernir la calidad del dato para generar conocimiento útil sin ahogarse en un mar de correlaciones espurias requiere inteligencia humana. Según ambos autores, las debilidades de la IA pueden hacer fracasar estos proyectos y que el tiempo confirmará o refutará, aunque los hitos previstos se retrasan. Larsen alerta de que si se sigue nutriendo el mito de la falsa totipotencialidad de la IA (incluso la poderosa e inquietante IA generativa basada en redes neurales 'transformer' y los chips neuromórficos están muy lejos de emular la IA general), morirán las ideas y la innovación y sobrevivirán las máquinas.

¿Es una prevención exagerada? En su 'Viaje a Laputa', el escritor J. Swift, maestro de la ironía, describió una máquina que hacía evolucionar la ciencia de modo automático. Su intención era ridiculizar lo absurdo que es creer que un instrumento pueda realizar el trabajo de la mente humana. ¿Lo es?

En 'El sueño de la máquina creativa', D. Innerarity sostiene que la IA es capaz de copiar todo y, tal vez, de extraer algo nuevo a partir de la digestión de los datos copiados, pero no de crear de verdad. Sostiene que al ser humano le queda la originalidad, la disrupción.

Una IA generativa puede producir un texto que 'huela' a Tolstoi o un cuadro que parezca de Rafael si se la alimenta con sus obras, pero carecerá del sentimiento que llevó a su creación y que el ojo humano termina captando. La IA mimetiza, pero no crea.

Esto es extrapolable a la creatividad científica que no está en los datos, sino en lo que llevó a obtenerlos. Algún experto advierte de que existe un cierto acomodo en la comunidad científica ante la tentación de dejar la innovación en manos de la IA. Si la IA canibalizara la innovación humana, se pasará del «que inventen ellos» de Unamuno al «que innoven las máquinas». No se es un ludita por poner a la IA donde se merece, destacando sus impresionantes logros y poder transformador, a la par que recordando sus limitaciones. La apuesta por las ideas debe ser firme para que términos como innovación y talento no pasen a engrosar el catálogo de palabras huecas. Einstein nunca sobra.