ChatGPT tomó al mundo por sorpresa, deslumbrando a la gente con su elocuente y matizada generación de lenguaje natural. Pero si bien es impresionante en la superficie, mirar debajo del capó revela debilidades notables.
En esta publicación, desmitificaremos el funcionamiento interno de los grandes modelos de lenguaje (LLM) como ChatGPT. Mi objetivo es realizar un análisis autorizado que separe la realidad de la ficción con respecto a los avances recientes de la IA.
Cómo funcionan los LLM: comprender sus promesas y limitaciones simultáneas
Entonces, ¿qué son exactamente los LLM y cómo les gustan los modelos? ChatGPT ¿funcionar? En una palabra:
- Los LLM ingieren conjuntos de datos de texto masivos, lo que les permite predecir un lenguaje humano notablemente fluido
- Pero a diferencia de los humanos, los LLM carecen de comprensión, razonamiento y base objetiva sobre el mundo real.
- Entonces, si bien pueden generar textos bellamente pulidos, a menudo carecen de coherencia, precisión o bases lógicas sólidas.
Exploremos más de cerca la mecánica y las limitaciones de los LLM...
Los LLM en realidad no comprenden las palabras que generan
La clave para comprender las fortalezas y debilidades de los LLM radica en su metodología de capacitación:
- Ingieren hasta cientos de miles de millones de palabras de sitios web, libros, artículos y más.
- Al detectar patrones de palabras, aprenden probabilidades sobre secuencias potenciales.
- Esto les permite generar nuevas combinaciones que se ajusten a esos patrones lingüísticos.
Sin embargo, no hay ningún significado codificado asociado a esas palabras. Secuencias meramente predichas basadas en ejemplos anteriores.
Entonces, si bien es elocuente, no hay verdadera comprensión o razonamiento detrás de escena. Y eso explica muchos de los flagrantes errores fácticos y lagunas lógicas de los LLM.
Los LLM carecen de base en el mundo real
Además, debido a que los LLM solo ingieren corpus de texto durante la capacitación, carecen de conocimiento del mundo real sobre cómo opera la realidad.
Entonces, cualquier "hecho" o "conocimiento" mostrado por modelos como ChatGPT es superficial e inexacto: está elaborado a partir de patrones de palabras en lugar de basarse en la verdad.
Esta falta de razonamiento y fundamento fáctico explica las declaraciones notoriamente incorrectas o sin sentido de los LLM. Sus respuestas pueden parecer sorprendentes, pero a menudo son pura ficción.
No existe un sistema consistente de identidad o creencias
Finalmente, los LLM también carecen de una identidad persistente que vincule las respuestas:
- Los seres humanos desarrollan creencias cohesivas e integridad en torno a temas con el tiempo.
- LLM como ChatGPT generar cada respuesta de forma independiente y sin coherencia
- De modo que verá contradicciones flagrantes a medida que las investigue en las preguntas.
De forma aislada, los resultados del LLM pueden parecer coherentes e inteligentes. Pero si se avanza más, sus defectos se hacen evidentes.
Pensamientos finales: optimismo medido frente al bombo publicitario
El rápido progreso en la IA en lenguaje natural es impresionante. En aplicaciones limitadas, herramientas como ChatGPT mostrar promesa.
Sin embargo, las afirmaciones infladas sobre la inteligencia a nivel humano parecen prematuras. Los LLM han avanzado mucho, pero aún enfrentan limitaciones fundamentales en relación con la cognición biológica.
El entusiasmo está justificado, pero hay que moderar el entusiasmo. El camino por recorrer sigue siendo largo, pero los LLM ofrecen un pequeño vistazo a las posibilidades futuras.