Torras.ai

La IA va resoldre la part difícil i va fallar en la fàcil

Fa unes setmanes, vaig ajudar una empresa de dispositius mèdics a utilitzar IA per revisar literatura científica de PubMed.

No era una tasca petita. Centenars d’articles havien de ser analitzats per identificar només aquells que informaven sobre rendiment, seguretat i efectes adversos. Qualsevol que hagi fet aquesta feina sap què significa normalment: dies o setmanes de lectura acurada per part de professionals altament formats.

Amb la IA, va trigar minuts.

El sistema podia llegir resums i articles complets, entendre el context mèdic, descartar estudis irrellevants i extreure exactament el que importava. Des d’un punt de vista cognitiu, el problema estava resolt. La part més difícil — entendre la ciència — ja no era el coll d’ampolla.

I, tanmateix, l’obstacle més gran no tenia res a veure amb la IA ni amb la ciència mèdica.

No perquè la IA cometés errors. No perquè el model inventés coses. No perquè la lògica fos errònia.

Va fallar perquè la IA no podia descarregar els PDFs.

CAPTCHAs, proteccions anti-bot, infinites comprovacions de “ets humà?” — mecanismes dissenyats per aturar l’abús, ara posant-se directament en el camí de la feina legítima.

La IA podia avaluar centenars d’estudis mèdics més ràpid que qualsevol equip humà — però no podia marcar una casella.

El programari anti-bot tenia sentit. Un cop.

Els sistemes anti-bot existeixen per bones raons. Es van dissenyar per protegir webs de l’abús, evitar l’scraping massiu, aturar el frau i preservar models de negoci basats en anuncis o accés limitat.

Durant molt de temps, van funcionar sota una suposició simple: l’automatització és sospitosa, els humans són legítims.

Aquesta suposició tenia sentit en un món on els bots principalment robaven contingut, sobrecarregaven servidors o manipulaven sistemes.

Però aquell món ja no existeix.

El web ha canviat la manera de treballar — silenciosament, completament

En les dues darreres dècades, hem traslladat gairebé tot el programari professional al navegador.

El que abans eren aplicacions locals o client-servidor s’han convertit en eines web, executant-se en servidors centralitzats. Sistemes CRM, ERPs, programari de comptabilitat, plataformes de RRHH, eines de màrqueting — tot ha passat a SaaS.

Aquest canvi ha permès una innovació increïble. Les actualitzacions són instantànies. La col·laboració és global. El programari és més barat de distribuir i més fàcil de millorar.

El navegador s’ha convertit en la interfície universal per a la feina.

I ningú ho ha qüestionat.

La IA no necessita un navegador

La IA trenca aquesta suposició.

La IA no necessita botons, menús desplegables ni PDFs. No treu profit de panells de control ni de la paginació. No li importen els dissenys ni les finestres emergents.

La IA necessita accés a la informació i permís per actuar.

I, tanmateix, la forcem a operar a través d’interfícies dissenyades per a humans — fràgils, visuals i en constant canvi.

Per fer-ho possible, hem inventat tot un ecosistema d’eines.

La promesa — i el dolor — de l’automatització web

Automatització de navegadors, web scraping, RPA, navegadors sense cap, bots de flux de treball — tot un ecosistema ha sorgit prometent el mateix: deixa que la IA faci la feina per tu.

En realitat, aquests enfocaments són molt més fràgils del que semblen. Es basen en interfícies d’usuari que mai van ser pensades per ser punts d’integració estables, i fallen de maneres tant freqüents com imprevisibles.

Un botó es mou. Una etiqueta canvia. Apareix un CAPTCHA. S’actualitza el flux d’inici de sessió. Cap d’aquests canvis s’anuncia, i cap d’ells es considera un canvi trencador pel proveïdor de programari.

Però cadascun pot aturar l’automatització en silenci.

Sempre estàs a una petita redissenyada de la interfície d’usuari d’una caiguda en producció. L’automatització que depèn de programari que fingeix ser humà és, per definició, inestable.

El món, completament capgirat

Aquí és on tot esdevé absurd.

Avui, la IA gestiona les parts més intel·lectualment exigents de molts fluxos de treball. Llegeix, raona, compara, resumeix i decideix.

Mentrestant, els humans es veuen obligats a fer les tasques més mecàniques imaginables: descarregar PDFs, clicar “No sóc un robot”, resoldre trencaclosques d’imatges, reintentar pujades fallides.

Els humans s’han reduït a adaptadors manuals entre interfícies web i sistemes d’IA.

No hem automatitzat la feina. Hem reordenat el dolor.

Un negoci pròsper basat en la fricció

No és sorprenent que hi hagi empreses especialitzades exactament en aquest problema.

Serveis com 2Captcha, Anti-Captcha, DeathByCaptcha i plataformes similars existeixen per resoldre CAPTCHAs enviant-los a humans reals, en algun lloc del món, que marquen les caselles i resolen els trencaclosques.

En altres paraules, hem convertit la feina humana en una API perquè l’automatització pugui continuar.

Més IA porta a més intents d’automatització. Més automatització porta a més mesures anti-bot. Més mesures anti-bot porten a més feina manual.

Aquest bucle de retroalimentació és impressionant — i profundament trencat.

“Anti-scraping” sense anti-pensar

Algunes empreses ni tan sols confien en barreres tècniques. Confien en contractes.

Molts llocs web inclouen clàusules “anti-scraping” als seus termes de servei. Però què vol dir scraping quan una IA automatitza una tasca que un humà pot fer explícitament?

Si jo puc llegir legalment un document, descarregar un PDF i analitzar-lo, per què esdevé qüestionable quan un programari fa exactament el mateix en nom meu?

La resposta sovint és vaga. I convenientment així.

Estem fent la pregunta equivocada

El problema real no és l’abús. L’abús es pot gestionar amb límits de velocitat, autenticació i responsabilitat.

El problema real és que les aplicacions encara fan la pregunta equivocada.

En lloc de preguntar: “Ets humà?”

Haurien de preguntar: “Ets un usuari legítim o una automatització legítima?”

Són coses molt diferents.

Si l’accés és gratuït via navegador, hauria de ser accessible via API. Si els fluxos de treball estan permesos per a humans, haurien d’estar permesos per a automatitzacions autenticades. Els CAPTCHAs són una eina rudimentària per a un món molt més matisat.

És cert, els anuncis compliquen la situació. Sí, els models de negoci importen. Però obligar professionals altament qualificats a passar temps clicant filtres perquè la IA pugui fer la seva feina no és sostenible.

El programari empresarial ha d’evolucionar — ràpid

A mesura que la IA continua assumint més feina cognitiva, el programari empresarial s’enfronta a una elecció.

Pot seguir sent centrat en la interfície d’usuari i obligar els humans a supervisar l’automatització.

O pot esdevenir natiu per a la IA i exposar fluxos de treball, dades i permisos d’una manera que les màquines puguin utilitzar de manera responsable.

Les empreses que guanyin no seran les que tinguin els millors panells de control.

Seran les que deixin de demanar a les màquines que fingeixin ser humanes.

Pensament final

Els sistemes anti-bot es van crear originalment per evitar que les màquines fingissin ser persones.

En algun moment, hem invertit aquesta lògica. Avui, cada cop més, paguem persones perquè facin tasques mecàniques perquè les màquines puguin pensar.

Aquesta inversió hauria de fer-nos reflexionar.

Probablement no és el futur de la feina — però sí un senyal d’alerta clar que les nostres arquitectures de programari no s’han posat al dia amb el món on vivim ara.