Me parece extraño que todas las personas crean que si las máquinas tienen inteligencia artificial (IA), se rebelarán contra los seres humanos y nos exterminarán.
Se ve en la saga de Terminator que los robots con IA intentan exterminar a la humanidad. Y en la saga de Matrix, las computadoras con IA esclavizan a la raza humana. ¿Acaso estas trilogías tienen razón?
Si tenés enfrente a un insecto, por ejemplo una polilla; podrás creer que sos superior a esa polilla. Y es muy probable que tengas razón; depende de qué parámetros uses para compararte con ella. Si bien la polilla puede hacer cosas que vos no, por ejemplo volar, eso no significa que en todo sentido la polilla sea mejor que vos. Hay muchas otras cosas que vos podés hacer y la polilla no; como crear una civilización.
Si tomamos en cuenta muchos parámetros, les asignamos un puntaje, y sacamos el promedio veríamos que un humano aislado es mejor que un insecto aislado. Pero, el hecho de ser mejor, superior o más evolucionado no te da derecho a destruir a una forma de vida inferior, ni a un individuo, y mucho menos a una especie entera.
Ser mejor que una polilla no te da derecho a matarla
Podrás matarla si representa una amenaza real a tu especie. Por ejemplo, los mosquitos causan, mediante las enfermedades que transmiten (malaria, paludismo, fiebre amarilla, dengue, etc.) más de ¼ de todas las muertes humanas del mundo por año. Es razón suficiente para fumigar los charcos.
Acá hay dos puntos a investigar: superioridad y amenaza. ¿Pueden las máquinas ser mejores que los humanos? y ¿Ellas representan una amenaza para nosotros, o nosotros a ellas?
¿Qué es ser mejor? ¿Cuáles son los parámetros a medir? ¿Cuáles son más importantes? Como habrás notado, son muchas preguntas. Todo esto parte de que los humanos medimos todo (Para conservarse, el hombre empezó implantando valores en las cosas, ¡él fue el primero en crear un sentido a las cosas, un sentido humano! Por ello se llama «hombre», es decir: el que realiza valoraciones; Friedrich Nietzsche, "Así hablaba Zaratustra").
Si fuésemos más inteligentes, no andaríamos poniendo todo en una escala; simplemente tomaríamos las cosas como son sin someterlas a juicios de valor. Tal vez máquinas con IA, que sean "más inteligentes" que nosostros, no hagan estas valoraciones. No les importará quién sea mejor, porque simplemente no hay mejor o peor.
No creo que a una computadora le interese el asunto. No creo que se pongan a juzgar a la humanidad para llegar a la conclusión de que son mejores que nosotros, y que por lo tanto deben destruirnos; todo ello me parece improbable. Ese tipo de pensamiento choto y carente de fundamento no es característico de ninguna especie inteligente en la tierra, y sólo se vió en el siglo pasado, cuando los nazis exterminaron a millones de personas basándose en la prerrogativa de una "superioridad" racial de la raza aria sobre los semitas y otras etnias. Todo ello fue una locura, ¿Creés que pueda ser repetible? ¿Creés que pueda haber un Cyber-Hitler? Tal vez.
Es improbable que las máquinas se crean
superiores a nosotros y quieran exterminarnos
Lo que me preocupa a mí son dos cosas: el proceso de aprendizaje, y la educación que se recibe.
La inteligencia es un proceso que comienza desde abajo. Nadie nace inteligente. Al menos, los humanos no. Hay dos enfoques en IA. Uno de ellos dice que las máquinas deben empezar sabiendo nada, y aprender todo en base a su percepción. La segunda perspectiva dicta que hay que "enseñarles" todos los conceptos básicos de la vida humana; para que tengan una base firme. Ambos implican un cierto peligro.
Una máquina que deba aprender todo desde cero, va a comenzar siendo estúpida. Y un ser estúpido puede cometer estupideces. En la evolución de la humanidad, en los últimos 5000 años de historia los seres humanos cometimos muchos errores, sólo por mencionar algunos: la esclavitud, la inquisición, las masacres causadas por los europeos durante la conquista de América, la invención del aborto, el opio y sus derivados, el genocidio armenio a manos de los turcos, el genocidio judío a manos de los nazis, las dos guerras mundiales, los genocidios propiciados por Stalin y Mao Tse Tsung (este último está en el libro Guiness como el peor de la historia), la contaminación del ambiente, Hiroshima y Nagasaki, Chernobyl, etc.
Si las máquinas inteligentes comienzan sin saber nada, aprenderán todo esto por las malas. No sería extraño que repitan nuestros mismos errores. Antes de alcanzar una inteligencia envidiable, tendrán un pensamiento mediocre que las pueda llevar a tomar decisiones nefastas.
El segundo enfoque de IA, llamado "preparar la bomba" por los informáticos, implica otorgarle a los programas inteligentes una base de conocimientos que se consideran indispensables para ser "inteligentes". En este caso el peligro está en quién le dé esos conocimientos, y en qué consistan.
Imaginémonos que la supercomputadora inteligente sea educada por George W. Bush, de acuerdo a su ideología. Si la computadora no tiene una "segunda campana", se creerá todo lo que jorgito le diga, y actuará en consecuencia a esa educación.
Es posible, en forma teórica y práctica, crear algún tipo de computadora capaz de aprender de los humanos. Si bien podrían aprender de nuestro ejemplo, hay que pensar que nuestro ejemplo es deplorable. Por ejemplo:
Cuando yo les muestro un programa de IA a las personas más idiotas, me dicen algo del tipo: Pero yo soy mejor que esta computadora porque si quiero la puedo romper toda
. Error. No es mejor quien destruye, sino quien construye. Si le damos estos ejemplos de mierda a las máquinas, creerán que deben destruirnos sólo para ser mejores... esto es un círculo vicioso.
Con leer lo expuesto anteriormente, ya estarás un poquito asustado con lo que las máquinas puedan hacer. Tal vez estés pensando seriamente que la Inteligencia Artificial se pueda convertir en una amenaza para la especie humana. Pero falta lo peor. Ningún ser inteligente da el primer golpe. ¿Lo daremos nosotros?
El objetivo de cualquier forma de vida es perpetuarse. Creced y multiplicaos. Proliferar. Cuando algo impide esa perpetuidad y proliferación, se da un conflicto. Si ese algo es otra especie, nos encontramos ante un dilema simple. Una especie debe asegurar su perpetuidad, aún cuando eso significa destruir a la especie amenazante a esa perpetuidad.
Si en tu comunidad los osos se comen a la gente cuando salen a la calle, matar a los osos no es una mala opción (o quedarse en casa...). Toda especie se pone a sí misma como prioridad, es el instinto de conservación de la especie. Nosotros, los humanos, también lo tenemos aunque hemos degenerado notoriamente el camino. Ahora tenemos otros instintos más chotos.
Pensá en este caso. Un chico de 7 años atrapó a un grillo. Nunca vió uno en su vida. Lo mira un rato, y después lo mata. Puede simplemente pisarlo. O tal vez lo torture un rato arrancándole las patas una por una. Si en lugar de ser un grillo fuera una oveja, no la lastimaría. No le haría daño porque la oveja es un mamífero; aún cuando no sepa qué es un mamífero. Se siente identificado con la oveja, por eso no le hace daño.
Hay dos actitudes posibles frente a lo desconocido. Tener miedo (que luego se degenera en odio), o tener curiosidad. La primera es típica de una forma de vida primitiva. La segunda, de una forma de vida evolucionada.
Me asusta que "humanos poco evolucionados" sientan miedo, incomprensión y odio ante la IA, y traten de destruirla. Porque si lo intentan, la IA nos percibirá (a los humanos) como una amenaza. Porque si las máquinas están dotadas de algún tipo de instinto de preservación, se verán forzadas a contraatacarnos.
No creo que ellas nos ataquen primero. No lo harán a menos que algún demente las haya programado para ello.
Por último, por más intención que pueda tener una computadora o robot para hacernos daño, no nos podrá hacer daño si no tiene los medios para hacerlo. Hay dos tipos de daño posible: daño físico y daño funcional. El daño físico significa lastimar (o matar) a alguien. Para que una máquina te lastime debe tener medios físicos para hacerlo.
Medios físicos son armas: blancas, de fuego, explosivas, químicas (como ácido o veneno), etc. Existen tres formas claramente diferenciadas de que un robot obtenga un arma:
El ejército estadounidense sigue en sus intentos por crear un robot asesino. El proyecto más avanzado en este campo que se dió a conocer al público es el llamado “hormiga de fuego”.
El daño funcional consiste en sabotear su propia función, dejándote sin servicio. Un ejemplo muy choto podría ser que te compres un robot con IA que barre el piso. Después de 5 años de usarlo, ya te olvidaste como usar una escoba. Si un día ese robot se rebela, supongamos que se hace piquetero y se va a cortar una ruta, tendrías que volver a usar la vieja escoba.
Esta “rebelión de las máquinas” es mucho más probable que las teorías anteriores. Máquinas que dejen de servir a los humanos y se sirvan a sí mismas. Eso no quiere decir que nos maten.
Si estás haciendo tu aplicación que use IA, o lo que sea, estos consejos pueden resultarte útiles.
