Torras.ai

Meta-language es refereix a un llenguatge o conjunt de termes utilitzats per descriure, analitzar o discutir el propi llenguatge. Implica utilitzar el llenguatge per parlar del llenguatge, incloent la seva estructura, funcions i ús. Per exemple, quan discutim les regles de gramàtica de l'anglès, com les definicions de substantius, verbs i adjectius, estem utilitzant el meta-llenguatge. Un exemple específic de meta-llenguatge que descriu l'ortografia seria explicar que la paraula "receive" segueix la regla de "i abans de e excepte després de c", com també ho fan paraules com "ceiling" i "deceive".

Una àrea on l'IA destaca és en la seva capacitat per processar i generar text semblant al humà, fent-la una eina valuosa per a la comunicació i la recuperació d'informació. No obstant això, grans models de llenguatge com ChatGPT, sovint tenen dificultats amb tasques de meta-llenguatge, com raonar sobre l'ortografia. Aquesta limitació es va fer evident durant aquesta conversa recent amb GPT-4o.

L'IA va proporcionar ràpidament una llista precisa dels presidents del govern d'Espanya des de la restauració de la democràcia, que va començar amb la transició després de la mort de Francisco Franco el 1975. La resposta inicial va ser impressionant i detallada.

No obstant això, quan vaig demanar a l'IA que filtrés la llista per incloure només aquells presidents del govern amb una "Z" en el seu cognom, les coses van començar a anar malament. La resposta inicial va ometre alguns candidats evidents.

L'IA va proporcionar una llista però va deixar de banda alguns noms. És un petit error, però va posar de manifest com l'IA a vegades pot passar per alt detalls que un humà detectaria fàcilment.

Quan vaig assenyalar que Adolfo Suárez també té una "Z" en el seu cognom, l'IA es va corregir ràpidament. Aquesta interacció va demostrar que tot i que l'IA pot proporcionar informació precisa, pot necessitar supervisió humana per garantir la completitud.

L'IA va reconèixer l'error i va actualitzar la llista en conseqüència.

Finalment, quan vaig esmentar Pedro Sánchez, l'IA va revisar de nou la seva llista. Aquest procés iteratiu mostra tant la fortalesa com les limitacions actuals de l'IA en el tractament de consultes complexes que impliquen meta-llenguatge.

L'IA va afegir Pedro Sánchez a la llista, completant el conjunt de noms amb una "Z" en el seu cognom.

Ara tenim GPT-4o completament confós i absolutament incapaç de resoldre un problema que qualsevol nen de 5 anys podria resoldre.

Per descomptat, sabem per què està passant això. ChatGPT utilitza l'arquitectura Transformer, que es basa en última instància en la Tokenització, Incrustació de paraules i Codificació posicional. El processament d'anar i tornar de tokens a paraules reals es gestiona mitjançant passos de pre i post-processament, de manera que el "nucli" de ChatGPT realment no coneix l'ortografia de les paraules.

Tot i que l'IA ha avançat molt i ofereix beneficis significatius, és essencial ser conscient de les seves limitacions. Com s'ha demostrat, l'IA a vegades pot passar per alt detalls senzills, especialment quan es tracta de tasques que impliquen meta-llenguatge i raonament sobre l'ortografia.

Malgrat aquests reptes, mantinc l'optimisme sobre el futur de l'IA i el seu potencial per millorar i evolucionar!