ARGENTINA
CAPITAL FEDERAL
HOY-ES 30-12-2024
OtrosBlogs -
MisPapers -
MisNotas -
Vínculos -
Bienvenido a Mi Blog

miércoles, julio 19, 2023

chatGPT Again

El campo de aplicación de la Inteligencia Artificial (AI) es amplísimo. Abarca todas las actividades humanas porque permite resolver rápida y eficientemente innumerables problemas del hacer cotidiano. Siempre un gran descubrimiento o invento trae muchos beneficios para la humanidad; la vida social cambia abruptamente. La historia está plagada de ejemplos entre los cuales la rueda, el motor, la electricidad, la energía nuclear, la mecánica cuántica, internet, blockchain son los más sobresalientes. Ahora es el turno de la Inteligencia Artificial. Muchos ignoran los beneficios y se enfocan en los peligros. Se dice que chatGPT, la Inteligencia Artificial más difundida, es una amenaza para la cultura y la civilización establecida. ¿Son reales estas amenazas?

¿Qué es chatGPT? Es un modelo de lenguaje por medio del cual un autómata genera texto de manera predictiva. Dada una secuencia de texto inicial, el autómata de chatGPT intenta invariablemente predecir la próxima palabra del texto en base a los datos que dispone en su memoria sobre ese texto de referencia. Recurriendo a su memoria, el autómata hace una búsqueda exhaustiva de la próxima palabra y, siguiendo una regla probabilística preestablecida en su programa, elige esa próxima palabra. Una vez hecha esta elección, su texto de referencia cambia, porque tiene una palabra añadida. Ese nuevo texto es el texto de referencia para buscar la nueva próxima palabra. El autómata repite este mismo procedimiento tantas veces hasta lograr escribir un ensayo de longitud tal, al cual ya casi no existan palabras probables para agregar.

La regla que determina la conducta del autómata se puede simplificar con la siguiente expresión:

TEXTO(n)=TEXTO(n-1)+PALABRA(n), n=1,2,3,...
Sabiendo que
TEXTO(n) es el texto en el paso n
TEXTO(0) es el texto inicial, por lo cual PALABRA(0)=""
PALABRA(n)=ALEATORIAponderada(PALABRAPOSIBLE(TEXTO(n-1))) tal que a la palabra posible menos probable se le asigna (eurísticamente) un peso de 0.8 y al resto de las palabras posibles un peso de 0.2

La expresión general de la regla queda:

TEXTO(n)=TEXTO(n-1)+ALEATORIAponderada(PALABRAPOSIBLE(TEXTO(n-1))), n=1,2,3,…

Al observar con cuidado, uno descubre que esta regla es bastante simple comparada con la tarea de escribir un ensayo que ha de ser tan complejo como, nada más ni nada menos, uno escrito por humanos que acceden a leer los mismos contenidos almacenados en la memoria del autómata. Un aspecto muy relevante a destacar es que la regla de probabilidad preestablecida que chatGPT emplea para computar la probabilidad de la próxima palabra está formulada en un enorme modelo de lenguaje probabilístico llamado LLM (large languaje model), que tiene 175 mil millones de parámetros y que forma el núcleo principal del autómata. En esta nota no se trata de explicar la estructura y los fundamentos del modelo LLM, sino las supuestas amenazas asociadas con chatGPT.

Si se asignara exactamente la misma tarea al autómata y al humano, ambos completarían el ensayo de manera muy distinta, porque sus reglas de conducta son distintas. El humano puede improvisar su escritura, el autómata no. El humano puede imaginar palabras, el autómata no. El humano puede inventar palabras, el autómata no. El humano es consciente de las palabras que elige más allá de si están o no en ensayos previos, el autómata no. El humano tiene naturalizado su lenguaje, el autómata no. El humano escribe en base a ideas, el autómata no. El humano emplea lógica y deduce, el autómata no. El humano asigna significado a las palabras, el autómata no. El humano nunca elige la próxima palabra en base a probabilidades, el autómata siempre. Y así se podría seguir enumerando diferencias. Diferencias que hacen sospechar que los ensayos podrían ser distintos y coherentes a la vez.

Suponiendo que ambos ensayos, aunque distintos, son coherentes, el autómata podría ser mucho más eficiente que el humano a la hora de elaborarlo. El autómata podría responder las preguntas, y de hecho lo hace, mucho más rápido que el humano y así permitir la inmediata resolución de problemas urgentes. Esto, lejos de perjudicar podría beneficiar a los humanos liberando tiempo para ejecutar otras tareas prioritarias y más complejas a la mera búsqueda de respuestas sobre aspectos ya conocidos.

Sabiendo que el humano le asigna significado a las palabras y que cualquier idea o concepto o teoría elaborada por la razón se puede traducir al lenguaje coloquial, el humano puede generar nuevos conocimientos y escribirlos coherentemente aún sin leer ningún informe previo sobre el tema, cosa que el autómata nunca logrará sintetizar eficientemente desde escritos almacenados en su memoria, aún suponiendo que tiene acceso a todos los conocimientos obtenidos por la humanidad y que el modelo LLM predice probabilidades a la perfección. Lo nuevo, lo que no está escrito en ningún lado, pero que el humano puede escribir a priori, podría nunca ser escrito predictivamente por el autómata.

Por la incorporación del modelo LLM, no es en rigor descartable que el autómata de chatGPT obtenga un ensayo novedoso, que dé cuenta de algo nuevo obtenido combinando palabras aleatoriamente. Pero la probabilidad de que esto suceda es literalmente cero. Suponiendo que lo logra, quien estará últimamente en condiciones de decidir si tal descubrimiento es o no significativo, ese no podrá ser el autómata sino el ser humano, porque éste es el único que puede asignar significado a las palabras y descubrir si una cierta combinación, improbable, de ellas tiene o no algún sentido.

El autómata carece de las facultades fundamentales de la mente humana. Para dotar al autómata de dichas facultadas se requiere primero sintetizar las reglas que las determinan. Esas reglas son desconocidas para el humano y no están escritas en ningún lado. Ningún autómata puede acceder a ellas como para mostrárselas a un humano, por lo que ningún autómata puede ser programado con ellas. Por eso el autómata nunca podrá valorar y decidir por motus propio, en el modo en que el humano lo hace.

Ni la vida ni la cultura humana están amenazadas por chatGPT. Esta tecnología no representa ninguna amenaza para la civilización. Claro que personas malintencionadas podrán emplear esta nueva y prometedora tecnología para hacer daño y cometer actos criminales, pero esto es lo que el humano puede hacer con cualquier instrumento que emplea a diario. Los humanos pueden usar, y de hecho usan, automóviles para cometer delitos, pero el automóvil no representa una amenaza para la civilización. Los humanos no son tontos, no buscan moverse de un lado a otro en automóvil para de ese modo auto aniquilarse atropellándose unos a otros. Es de esperar que las aplicaciones beneficiosas de chatGPT superen abrumadoramente a los usos delictivos.

La única amenaza de chatGPT es para aquellos intereses establecidos en una sociedad plagada de privilegios y atropellos. Claro que chatGPT tiene el potencial de estropear negocios protegidos por intereses de gobernantes corruptos, de industriales ineficientes, de sindicalistas mafiosos o de burócratas perezosos. Ellos sí serán perjudicados. Pero este supuesto perjuicio es, en rigor de verdad, un enorme beneficio para la sociedad que podrá librarse de aquellos privilegiados y atropelladores que sí retrasan y destruyen civilizaciones enteras.

Read All... Leer Todo...

lunes, julio 17, 2023

Causalidad...

La causalidad es una relación de precedencia necesaria entre eventos de la realidad. Esa relación determina un orden que se llama orden causal o relación causa-efecto. El caos es la ausencia absoluta de causalidad entre eventos, es la ausencia de orden. La mente humana es un orden que no puede concebir el caos. Eso conduce a plantear la pregunta de si ¿existe el caos en la naturaleza? Se puede estar seguro de algo: el hombre jamas podrá conocer aquello que su mente no puede entender. Lo que la mente entiende está asociado a la causalidad.

Para la mente humana, el orden siempre está presente en los eventos. Ese orden, esa regularidad, existe porque los eventos ocurren bajo leyes de causalidad que los rigen y los determinan. Esas leyes se pueden encarnar en fórmulas matemáticas, como es el caso de las leyes de la naturaleza, o bajo alguna otra forma más general como es el caso de las reglas escrita por los gobernantes para restringir a las personas, las leyes praxeológicas que rigen la acción humana, las reglas del lenguaje que rigen la comunicación o las reglas o programas que rigen y determinan la conducta de un autómata.

Cualquier avance cognitivo o tecnológico significativo viene asociado con el descubrimiento de estas reglas de causalidad. Por ejemplo el avance en las ciencias naturales, junto a sus impresionantes logros tecnológicos, se debe al descubrimiento de que la realidad natural viene dada por la operación de reglas escritas en lenguaje matemático. En este caso, las leyes de causalidad se escriben con tinta matemática. Usar esta tinta en el estudio de la naturaleza permite al ser humano descubrir y aprovechar estas leyes no sólo para conocer el mundo natural sino en el desarrollo tecnológico que lo favorece.

En el caso de las reglas de gobierno, si bien el hecho de lograr una sociedad con ciudadanos de conducta civilizada puede significar un avance para la condición de vida humana, en el fondo aún se desconoce si existe un substrato fundamental desde dónde pueden obtenerse esas reglas al modo similar a como las matemáticas permiten escribir las leyes naturales. Lo único que se sabe de las reglas de gobierno es que son escritas por humanos. Su substrato fundamental subyacente es desconocido.

Un caso similar a las leyes naturales ocurre con las leyes praxeológicas. Estas leyes, al igual que las naturales, son leyes no escritas por humanos y vienen dadas para el hombre. El gran aporte realizado por Ludwig v. Mises fue descubrir que estas leyes vienen dadas a priori siendo el axioma de la acción humana “el hombre actúa” el substrato formal fundamental desde donde pueden obtenerse todas ellas mediante implicancias necesarias. Este axioma es la única fuente de estas leyes. Se destaca que una regla trivialmente simple, como lo es el axioma de la acción, se encuentra en la base de un fenómeno extremadamente complejo como lo es la acción humana. La acción humana es compleja pero sus reglas son simples.

Galileo y Newton pusieron la semilla fundamental para el estudio de las leyes de la mecánica clásica. Ellos encontraron las fórmulas matemáticas correctas para escribir esas leyes. Einstein, con su novedosa teoría de la relatividad, encontró las fórmulas para expresar las leyes del espacio/tiempo que rigen la conducta del universo a gran escala. Maupertuis, Euler y Planck, entre muchos otros, descubrieron las fórmulas elementales para escribir aquellas leyes de la mecánica cuántica, tal cual hoy las conocemos, mediante el famoso modelo estándar de la física. Probablemente Aristóteles y Platón hicieron lo suyo al establecer algunas leyes de gobierno. Y sin dudas Mises descubrió el substrato fundamental desde donde surgen las leyes de la acción humana que comprenden, entre otras, a las leyes económicas.

Dada las limitaciones propias de la mente humana, homo sapiens nunca puede ser omni sapiens. Siempre habrá algo por descubrir. Por ejemplo en Biología, una de las estrellas de las ciencias naturales, se desconoce por qué el adn tiene la estructura y la forma que tiene. Pero si se sabe que cuatro bases químicas combinadas de diferentes maneras puede dar origen a una enorme complejidad. Sus reglas químicas son simples aunque los sistemas biológicos son muy diversos y complejos. La naturaleza misma parece aprovechar este principio de conservación por el cual una regla simple permite crear algo extremadamente complejo.

Lo mismo puede decirse respecto a las reglas que rigen el lenguaje o aquellas que determinan la conducta de un autómata. Es muy probable que reglas simples permitan generar lenguajes complejos o robots de capacidades hoy inimaginables. Cualquier abordaje teórico de algo exige el descubrimiento y estudio de sus reglas. Como principio general, la noción de regularidad y orden siempre presupone reglas preexistentes que habrá que descubrir y estudiar. Esto no sería necesario en una situación presuntamente caótica.

En principio, el caos es una noción sin sentido y no caracterizable satisfactoriamente. La expresión “estado caótico” se emplea para representar una situación desordenada en extremo pero ordenada al fin ya que, dada la estructura de la mente humana, no es posible la ocurrencia de eventos en ausencia de causalidad. La ausencia de orden es inimaginable. Para la mente humana, el desorden puede ser extremo pero la ausencia de orden es imposible, salvo en la nada misma.

Para el ser humano, aquellas situaciones reales (eventos, procesos o cambios) en donde parece no existir orden alguno, en donde parece romperse toda relación de causalidad, ocurren porque aún persiste alguna carencia cognitiva dada la información fragmentaria del evento, proceso o cambio. Tan pronto como mejora la precisión cognitiva emergen el orden y la causalidad subyacente.

En física suele decirse que la mecánica cuántica rompe las leyes de causalidad. Existen eventos cuánticos que parecen violar la causalidad! Pero esta aparente ruptura surge porque la lente conceptual o matemática con que se miran los eventos cuánticos no permiten distinguir ciertos detalles de causalidad y orden a ese nivel. Se requiere una mejora instrumental para observarlos. Tal como suele ocurrir en fenómenos complejos, esta mejora podría consistir en el descubrimiento de un conjunto de reglas más generales y más simples que las habitualmente aceptadas.

La información hoy disponible sobre eventos cuánticos sólo permite abordar un estudio del fenómeno mediante métodos estadísticos porque, con las matemáticas aplicadas al caso, no es posible capturar en detalle las causas que operan a ese nivel. Nadie sabe en rigor si lo que últimamente subyace a los finémonos cuánticos es sólo una ley probabilística o, lo que es paradójico pero probable, ciertas leyes causales desconocidas. Si existen otras leyes, su descubrimiento mostrará la regularidad que rescata toda aquella causalidad supuestamente invalidada en la situación precedente.

Si nos abstraemos por un instante e ignoramos las limitaciones de la mente humana para suponer que en la realidad de la naturaleza aún existe el caos, pues siguiendo la regla de la simplificación se podría postular que la ausencia de causalidad es la más simple de todas las reglas y por ello da origen a la más compleja de las situaciones, tan pero tan compleja que no admite explicación alguna por vía de facultades mentales. La mente no puede concebir esta regla absolutamente simple, lo cual vuelve inimaginable a su complejidad absoluta consecuente.

Este desconcertante pero fructífero vinculo entre simplicidad y complejidad podría colocar en posición inmejorable a un supuesto creador: Aplicar la regla más simple de todas y sentarse a observar la extrema complejidad de su creación!

Read All... Leer Todo...