El model seleccionat està al límit de capacitat. Proveu un model diferent.
«El model seleccionat està al límit de capacitat. Proveu un model diferent.»
Cada vegada em costa més acceptar aquest missatge.
Apareix precisament quan he decidit que una tasca mereix un nivell determinat d'intel·ligència. He triat el model, he proporcionat el context i he preparat la feina. Llavors el servei em demana que faci una altra tria perquè la capacitat per oferir aquella intel·ligència no està disponible.
Per a un experiment ocasional, això és una molèstia. Quan la IA passa a formar part de la manera com un equip desenvolupa programari, pren decisions o atén clients, es converteix en un problema empresarial.
Fins a quin punt ha de ser fiable la IA abans que les empreses hi puguin confiar?
Els decimals importen
Les dues captures de pantalla de pàgines d'estat de sota em van cridar l'atenció. La captura de pantalla de ChatGPT informa d'un 99,52% de disponibilitat. La captura de pantalla de claude.ai informa d'un 99,53% durant els 90 dies anteriors.
Cal fer un matís important. Aquestes captures de pantalla fan referència a ChatGPT i claude.ai. Els contractes empresarials d'API tenen el seu propi abast i compromisos. La pàgina d'estat d'OpenAI també explica que les seves mètriques de disponibilitat agreguen nivells, models i tipus d'errors, i que l'experiència dels clients individuals pot variar. Un dia amb color pot representar un incident parcial o un rendiment degradat; no vol dir que tothom no pogués treballar durant 24 hores. La pàgina d'estat de Claude fa un seguiment separat de la seva aplicació web, l'API i el servei de programació.
Fins i tot amb aquests matisos, els percentatges mereixen atenció. Per als fluxos de treball d'IA crítics per al negoci, començaria amb un objectiu de disponibilitat del 99,95%. Algunes aplicacions en necessitaran més. D'altres poden tolerar retards. El requisit hauria de dependre de les conseqüències del falliment.
El 99,50% i el 99,95% poden semblar gairebé idèntics en una presentació. Expresseu-los en temps i la diferència es fa molt més difícil d'ignorar.
| Disponibilitat | Temps d'inactivitat per mes | Temps d'inactivitat per any |
|---|---|---|
| 99,50% | 3 hores i 36 minuts | 43 hores i 48 minuts |
| 99,95% | 21 minuts i 36 segons | Unes 4 hores i 23 minuts |
La diferència és de només 0,45 punts percentuals. Representa deu vegades més temps d'inactivitat en el nivell de disponibilitat inferior.
I l'impacte empresarial depèn de quan arriben aquests minuts. Una interrupció durant una tasca nocturna en segon pla és diferent d'una durant la gestió d'una incidència escalada d'un client o un llançament de programari. El percentatge és un punt de partida. La feina interrompuda és allò que experimenta l'empresa.
«Proveu un model diferent» canvia la feina
Hi ha quelcom especialment incòmode en el remei suggerit.
Si he seleccionat un model perquè hi confio per a una tasca de programació difícil, demanar-me que utilitzi una alternativa menys capaç em demana que reconsideri la qualitat de la feina que estic disposat a acceptar.
Per descomptat, un altre model no és automàticament pitjor. Un model més petit pot ser excel·lent per a una tasca ben definida. Un equip que ha avaluat diversos models pot canviar entre ells amb confiança.
Però aquesta és una decisió sustentada per proves. Un avís de capacitat no aporta cap prova que l'alternativa sigui adequada per a la tasca que tinc al davant.
La qüestió rellevant és si l'alternativa pot complir els mateixos requisits: entendre el codi existent, preservar-ne els contractes, gestionar casos límit i produir un canvi que superi la revisió. Mantenir la conversa en marxa ens diu ben poca cosa sobre aquests requisits.
La interrupció s'acaba. El codi roman.
Això importa perquè el codi generat pot sobreviure a les circumstàncies que el van produir.
El problema de capacitat pot desaparèixer aquesta tarda. El codi escrit durant aquest problema pot romandre en producció durant anys.
Imagineu un desenvolupador que canvia de model a mig camí d'una funcionalitat. El substitut produeix un pedaç que sembla raonable i supera les proves disponibles. S'integra. Mesos més tard, un problema de manteniment revela una suposició que ningú no havia examinat prou de prop.
Aquest escenari pot passar amb qualsevol model, inclòs el més capaç. La preocupació addicional és si l'equip sap que han canviat les condicions en què es va generar la feina.
Podem rastrejar quin model i versió van contribuir a un canvi? Sabem quan es va recórrer a un model alternatiu? Podem connectar aquesta informació amb la sol·licitud d'integració (pull request), les proves i la revisió humana? L'alternativa va ser aprovada per a aquell tipus de feina?
Registrar el model no demostra que el codi sigui correcte. Proporciona a l'equip context per investigar problemes i decidir on cal una revisió addicional.
La disponibilitat hauria d'incloure l'accés al nivell de capacitat que requereix el flux de treball. Un servei pot continuar retornant respostes mentre l'equip perd la confiança que aquestes respostes compleixen els seus estàndards.
Més capacitat té un cost físic
La resposta immediata és òbvia: construir més capacitat.
Cal una certa expansió. Però els servidors necessiten electricitat. Produeixen calor que s'ha de gestionar. El seu impacte de carboni depèn del subministrament elèctric, així com de la fabricació i de la infraestructura que els envolta.
L'informe Energia i IA de 2025 de l'Agència Internacional de l'Energia va estimar que els centres de dades van consumir uns 415 terawatts-hora d'electricitat el 2024. El seu escenari base projectava uns 945 terawatts-hora el 2030. Aquestes xifres cobreixen tots els centres de dades, amb la IA com a impulsor important del creixement projectat.
Simplement afegir màquines cada vegada que augmenta la demanda crea una relació cada cop més exigent entre la intel·ligència i l'energia. Les empreses necessiten un servei fiable, mentre que el sistema energètic ha d'acomodar els requisits físics que hi ha al darrere.
Això fa que l'eficiència sigui central en la solució. En l'escenari d'alta eficiència de l'AIE, millores més grans en maquinari i models d'IA redueixen la demanda projectada d'electricitat dels centres de dades el 2035 en un 20% respecte del seu escenari base. És un escenari, més que no pas un resultat garantit, però mostra per què les decisions d'enginyeria importen.
Un cervell funciona amb aproximadament 20 watts
El cervell humà ofereix un punt de referència extraordinari.
El seu consum metabòlic d'energia s'estima habitualment en aproximadament 20 watts. Un estudi de 2021 de William Levy i Victoria Calvert, publicat a Proceedings of the National Academy of Sciences, analitza aquesta estimació coneguda i utilitza uns 17 watts d'energia potencial derivada de la glucosa en la seva pròpia auditoria.
El cervell és un òrgan costós segons els estàndards biològics: aproximadament el 2% de la massa corporal adulta representa prop del 20% de la despesa energètica en repòs. És una proporció inusualment gran en comparació amb moltes altres espècies. Tanmateix, la recerca comparativa de Suzana Herculano-Houzel va trobar un ús mitjà d'energia per neurona àmpliament similar entre els rosegadors i primats estudiats, inclosos els humans.
Això no ens proporciona una relació d'eficiència simple entre un cervell i un sistema d'IA. Un centre de dades atén molts usuaris, les tasques són diferents i tots dos sistemes depenen d'infraestructura de suport. La «intel·ligència per watt» necessita una definició de la intel·ligència que es mesura.
Tot i així, l'exemple biològic és sorprenent. L'aprenentatge, la percepció, el raonament i l'adaptació poden coexistir dins d'un pressupost energètic modest. Suggereix quant marge pot haver-hi per millorar la manera com dissenyem la intel·ligència artificial.
Intel·ligència fiable, proporcionada eficientment
Per a la IA empresarial, mesuraria l'eficiència en termes d'energia per tasca completada amb èxit i validada. Això inclou intents fallits, reintents i la reelaboració necessària per obtenir un resultat acceptable.
Un model més petit que completa la tasca de manera fiable pot ser una elecció excel·lent. Un model més gran pot justificar el seu consum si resol un problema que, d'una altra manera, requeriria intents repetits i correccions extenses. La comparació útil comença amb la feina que realment es fa.
Una millor eficiència també pot ajudar a alleujar la pressió de capacitat: fer feina útil amb menys recursos crea espai per atendre més demanda. La fiabilitat encara requereix operacions, programari i infraestructura sòlids; l'eficiència per si sola no evitarà totes les interrupcions.
Però la direcció sembla clara. La IA ha de ser més capaç, més fiable i menys voraç d'energia. Les empreses haurien d'esperar avenços en tots tres aspectes.
Cada vegada que llegeixo «Proveu un model diferent», em recorda que la nostra dependència de la IA creix més de pressa que la nostra confiança en el seu subministrament.
El repte de la indústria és fer disponible la intel·ligència que triem quan la necessitem, amb un cost energètic que puguem sostenir.
