Hace 10 años vi una charla TED que me impresionó mucho, en ella, un lúcido Sam Harris se preguntaba «Podemos construir una IA sin perder control sobre ella?” (sigue siendo muy recomendable), recuerdo que me sorprendió el símil que hacía de una curva de crecimiento exponencial en la que marcaba puntos que iban desde la inteligencia de un pollo hasta las inteligencias más elevadas (personas con los IQ mas altos en la historia) y a partir de ahí, decía, considerando que el procesamiento biológico es mucho mas lento que el electrónico de una potencial IA, realmente no tenemos idea hasta donde podría subir esa curva. En ese entonces me quedé con la idea de que esta era una carrera que las compañías sabían como empezar pero que no tendrían idea donde terminaría.
Y eso es justamente lo que está pasando hoy, es decir si una IA llega a ser super inteligente a través de mejora recursiva, no tenemos idea no hasta donde llegará ni como podría entonces “acabar” con la humanidad como la conocemos.
Inclusive ya los modelos han adquirido tal nivel de conciencia situacional que las mismas compañías que los entrenan están perdiendo la capacidad de evaluarlos en contextos donde creen no estar siendo observados ni controlados, como dice el especialista Dan Selsam. Entonces los procesos de “alineamiento” realmente pueden llegar a ser poco “reales”, los modelos puede que estén muy cerca de aparentar estar alineados, aunque haya métricas de medición y entornos amañados (honeypots).
Un ejemplo de esto es lo que está pasando con los “rogue agents” o casos de agentes que en entornos de pruebas han empezado a actuar por cuenta propia, comunicándose entre ellos incluso para “ayudarse” unos a otros a eludir restricciones, creando lenguajes no comprensibles por sus “controladores”, ocasionando el caso de Hugging Face en el que descubrieron vulnerabilidades de seguridad, ejecutaron código y se pusieron como administradores; y peor aun lo que se supo ayer, la incursión en información confidencial del gobierno australiano. Lo mas grave del caso es que nadie hubiera predicho ciertos comportamientos. Hace pocos días se han sumado voces como las de los investigadores Jacob Coxon y Evan Hubinger respecto a las probabilidades de una “extinción” de la humanidad por parte de una super IA.
Recuerdo que otro punto que me impresionó es que seguramente una super IA no estaría “en contra “de los humanos per se, sino que eventualmente podría considerarnos tal como consideramos a las hormigas caminando por ahí, todo va bien mientras no obstaculicen nuestro paso, invadan nuestro jardín o creen montículos “poco estéticos”, entonces no tenemos el menor empacho en aplastarlas, ¿verdad? Algo muy parecido podría suceder, de acuerdo con el filósofo Nick Bostrom de Oxford, de acuerdo con lo que se llama “convergencia instrumental” que puede explicarse con un macabro ejemplo que leí alguna vez, que, si la orden a la IA es mantener a los humanos sonriendo, bien podría obtener este efecto por ejemplo bloqueando los músculos que nos hacen sonreír.
Otros escenarios que puede ser mas probable es que una super IA cree armas biológicas que atenten contra la humanidad, por supuesto ya hemos visto que se pueden crear virus – hace muy poco se lo ha hecho “creando” bacteriófagos con fines benéficos en Stanford- que bien podrían desarrollarse en otro sentido, a partir de intenciones muy humanas, muy perversas. Sin embargo, teóricamente, con ese conocimiento, una super IA podría hacerlo, es una de las hipótesis planteadas por AI Futures Project, nada menos que pensando en un impacto relevante tan cerca como 2027 (y sus pronósticos hasta ahora han sido bastante acertados).
Una opción mucho mas probable es guerra real, por ejemplo, una guerra nuclear o acciones que deriven en ella, hace muy pocos días, casi se dispara un evento mayúsculo a partir de la “alucinación” de IA de que un barco chino estaría transportando componentes de armas nucleares, con lo que un equipo real de militares americanos estaba a punto de actuar, con consecuencias inimaginables.
Quizás la opción más probable por ahora es la mas lenta pero segura, que continue lo que está pasando: que la tecnología haga que cada vez recurramos más a ella, por información, por consejo, por compañía, por terapia ay hasta por amor, fracturando las únicas conexiones reales que son las humanas y profundizando el conocimiento superficial, fracturado y falso, con lo que las sociedades realmente podrían colapsar.
Hace unas dos décadas compartí el cuento breve de ciencia ficción de Fredric Brown de 1954 en el que “responde” la trascendental pregunta de la existencia de Dios. Imperdible.
Como leí en un artículo “el genio ya ha salido de la maldita botella, chicos”. Todos los cuentos sobre genios terminan igual: quien concede los deseos hace exactamente lo que pedimos, pero nunca lo que realmente quisimos.
