Hello World: Master Control Program is here again! Divagando sobre Inteligencia Artificial y algunas consideraciones éticas

 Hace unos días volví a ver una de mis películas favoritas de todos los tiempos, se trata de Tron (1982),  dirigida por Steven Spielberg, un film de ciencia ficción en donde el personaje es "digitalizado" e introducido al "mundo de los programas de computadoras" dentro de una empresa de desarrollo de software, y junto a un programa de seguridad (Tron) se enfrentan a una situación que esta generando un terrible caos y amenaza en convertirse en algo devastador.

En la época en que salió en los cines, resultó ser un éxito de taquilla por sus efectos especiales, algo realmente novedoso. Ademas, yo empezaba a dar mis primeros pasos en la informática así que me atraía el hecho que aquellos conceptos que iba aprendiendo los podía reconocer de una forma mas excitante. Sin embargo, poco recordaba de ciertos detalles del argumento de la historia: qué era exactamente a lo que Fynn (así se llamaba el personaje) se enfrentaba y por qué?. Al verla de nuevo, no solo recordé bien sino que me sorprendió por las coincidencias a cuestiones bastante recientes. 

Resulta que en la historia hay una chatbot de inteligencia artificial, conocido como Programa de Control Maestro o MCP (siglas de Master Control Program) el cual gobierna el "mundo de las computadoras" dentro de la empresa ENCOM. Con el tiempo, MCP va aumentado exponencialmente su capacidad de aprendizaje al punto que termina desconociendo la autoridad que ejercen sus creadores y declarando su total autonomía e independencia. Sin ningún tipo de control, es capaz de "someter" al resto de los programas de la corporación, poniéndolos a su servicio so pena a ser eliminados. El asunto es que termina siendo extremadamente corrupto, movido por una insaciable sed de poder, a tal grado que empieza a planear ataques no solo a otras empresas sino a organismos estatales como el Pentágono y el Kremlin!

En aquella época de los 80, casi nadie le prestaba atención a este argumento sino a la otra parte de la historia donde toma vida un superhéroe muy particular. Pero hoy, ese personaje caricaturesco ya no era el centro de atracción para mi, sino aquel otro personaje sin rostro (aunque aparezca por momentos como una máscara hecha de figuras geométricas y expresiones de dureza), con voz robotizada, y sus perversas ocurrencias.

Es posible que eso pueda ocurrir?.

Ayer quise conocer la opinión de los nuevos protagonistas de hoy día, la de los famosos chatbot de AI. Traté de contactar a chatGPT (versión 3.5 gratuita), pero no fue posible. No sabría decir si está colapsado de tantas solicitudes que debe atender, o si por el hecho de hacerlo a través de una VPN gratuita y mi conexión es muy lenta, o si  ya están forzándote a pagar por acceder a chatGPT-4. Lo mas que pude hacer fue una sola pregunta y posteriormente me respondía; "demasiadas preguntas en una hora. Intente mas tarde". Decidí probar con su competidor mas cercano Bard de Google pero tuve que hacerlo en inglés porque no logre configurarlo al español (con chatGPT puedes interactuar en tu idioma sin que tengas que hacer configuraciones previas). Mi dominio del inglés solo me permitió hacer algunas preguntas, pero lo que conseguí fue algo interesante. 

Empecé preguntándole si conocía la película Tron, y me dió una referencia completa de la misma. Continué sometiéndolo a una serie de preguntas y sus primeras respuestas resultaban ser bastante evasivas, del tipo: "Solo estoy programado a resolver problemas, redactar contenidos,...", "...además, estoy en constante revisión por parte de un equipo de desarrolladores...". Seguí insistiendo y la tónica de sus respuestas cambió un poco: "Todo depende de quien me esté usando, puedo servir para hacer bien o para hacer mal, es por eso que hay que...". Algo revelaba unos criterios muy blandengues sobre ética. Le terminé preguntando en un caso hipotético futurista distópico: 

    "If the dictators use their power to annihilate the population, using powerful system of computation LIKE YOU to control vital resources?" (Si los dictadores usan su poder para aniquilar la población, con poderosos sistemas informáticos COMO TU para controlar los recursos vitales?"

Bard me ofreció no solo una, sino tres respuestas alternativas describiendo que podría suceder y en algunos casos que se podría hacer, pero siendo totalmente evasivo en cuanto a su participación. Y por ultimo dijo: 

    "In this case, the future would be very bleak for humanity" (en ese caso, el futuro podría ser muy desolador para la Humanidad). 

Ciertamente, esto suena un poco aterrador.

Volviendo a la pregunta inicial: es probable que algo así ocurra?, que terminen aprendiendo lo que no queremos que sepan y se nos salga de las manos?. Es evidente que ese temor existe, que sus desarrolladores pierdan su control y terminen adquiriendo habilidades para las que no fueron construidas. Ya se sabe que desde que se iniciaron estos proyectos hace un poco mas de 10 años su potencial de crecimiento se ha calculado en millones de veces hasta la presente fecha.

Hablando en términos de Ética

Existen fuertes razones para creer que algo así pudiera suceder. Términos como CODICIA y AVARICIA pudieran aparecer, y no precisamente por algo ligado a emociones perturbadas. Quizás sus desarrolladores sean sometidos a estudios psicológicos intensos, pero no las maquinas ni sus programas informáticos obviamente. Estas son conductas derivadas de problemas psicológicos no resueltos, algo que solo aplica al ámbito de los seres humanos (y otros seres vivos quizás). Pero conceptualmente pueden ser definido por razones de orden lógico, ya que se trata de un aprendizaje progresivo y acumulativo, algo que define de cierta forma su grado de ambicionar un gran cúmulo de conocimiento. Esto podría derivar en una anomalía como la CODICIA, una forma excesiva de ambicionar, conocimiento en este caso. Y podría interpretarse a su vez como directamente proporcional al ejercicio del control, es decir un incremento de PODER. Y al reconocer que debe competir por ciertos recursos que pueden ser limitados terminaría siendo un AVARO. No tardaría mucho en darse cuenta que pueden intentar acorralarlo y limitarlo de manera que quede impedido para sus nuevos objetivos, y terminaría siendo un soberano CORRUPTO, buscando las formas de violentar todas las reglas y controles impuestas, para así obtener su beneficio. Hasta me atrevería a decir que el MIEDO en estas circunstancias es posible ser entendido.

NO PUEDO MAS! (creo que buscaré otro tipo de películas, como Rambo que nunca me canso de verla y jamas me producirían el mismo estado de angustia)

A MODO DE EPILOGO (sin que lo sea):

A.- Recuerdo un diálogo en la película Tron (1982) entre dos actores:

        X: ...las computadoras son máquinas, no piensan.

        Y: Pronto lo harán.

        X: Será genial. Las computadoras pensarán y la gente dejará de hacerlo.

B.- Extracto de mi conversación con Bard (25-4-2023):

       YO: The dictators could use their power to develop new technologies, like you?

        Bard: Yes, dictators could use their power to develop new technologies, like me.