Torras.ai

Què és l'AI en l'ombra i com es compara amb l'IT en l'ombra?

L'AI en l'ombra es converteix en una preocupació creixent per a les organitzacions, paral·lelament al problema de llarga data de l'IT en l'ombra. Mentre que l'IT en l'ombra es refereix a l'ús de sistemes i solucions sense l'aprovació formal del departament d'informàtica, l'AI en l'ombra abasta l'ús no autoritzat o ad hoc d'eines d'IA generativa, com ara ChatGPT, per part dels empleats. A mesura que aquestes eines es tornen més accessibles i capaces, els empleats sovint les utilitzen sense supervisió oficial, cosa que pot comportar riscos significatius per a l'organització.

Els problemes que pot causar l'AI en l'ombra

Així com amb l'IT en l'ombra, l'AI en l'ombra introdueix una sèrie de reptes. Les preocupacions més urgents giren entorn de la seguretat de les dades, el compliment i el potencial per a la filtració de la propietat intel·lectual. Quan els empleats utilitzen eines d'IA generativa sense les directrius adequades, poden compartir involuntàriament informació sensible de l'empresa amb sistemes externs. Aquest ús no regulat pot comprometre la integritat de les dades i portar a malsons de governança, similar al que s'ha observat amb l'IT en l'ombra en el passat.

La solució: Prendre el control de l'ús de l'IA generativa a la vostra empresa

Per mitigar els riscos associats amb l'AI en l'ombra, les organitzacions han de prendre mesures proactives per regular i simplificar l'ús d'eines d'IA generativa. Així és com:

1. Escollir un o diversos proveïdors de LLM

   Seleccioneu un proveïdor de models de llenguatge gran (LLM) de confiança, com ara OpenAI, Anthropic o Google Cloud AI, i implementeu una interfície fàcil d'usar per als vostres empleats. Aquests proveïdors ofereixen APIs amb acords de nivell de servei (SLAs) que garanteixen que les vostres dades no s'utilitzin per al seu propi entrenament de models, protegint així la propietat intel·lectual de la vostra empresa.

2. Encoratjar l'ús només d'interfícies d'usuari/aprovades

   És crucial restringir els empleats a utilitzar l'IA generativa exclusivament a través de les interfícies aprovades proporcionades pels proveïdors de LLM escollits. Això no només estandarditza l'ús de l'IA dins de la vostra organització, sinó que també permet als departaments d'informàtica mantenir el control sobre el flux de dades i l'ús.

3. Registrar tota l'activitat dels empleats

   Implementar registres d'activitat és vital, no per vigilar els vostres empleats, sinó per entendre com s'està utilitzant l'IA generativa dins de la vostra organització. Analitzant els patrons d'ús, podeu obtenir informació valuosa sobre com aquestes eines milloren la productivitat i identificar qualsevol risc o mal ús potencial.

4. Aprofitar les tècniques RAG per optimitzar el compartiment d'informació

   Les tècniques de Generació amb Recuperació (RAG) es poden utilitzar per fer que la documentació de la vostra empresa, la intranet i altres recursos siguin fàcilment accessibles pel vostre LLM seleccionat. Aquest enfocament accelera la difusió de la informació a través de la vostra organització, facilitant que els empleats trobin i utilitzin el coneixement que necessiten.

5. Incorporar bucles de retroalimentació per als documents corporatius

   Com a part de la interfície corporativa personalitzada del vostre LLM, permeteu als usuaris valorar la comprensió dels documents. Identifiqueu les parts responsables de cada document i establiu fluxos de treball per millorar-los basant-vos en la retroalimentació de l'usuari. Aquest cicle d'aprimament continu assegura que la vostra base de coneixements es mantingui actualitzada i útil.

6. Restringir l'accés a eines d'IA generativa no aprovades

   Si és necessari, bloqueeu l'accés a altres eines d'IA generativa dins de la intranet de la vostra empresa. Alternativament, encoratgeu activament els empleats a utilitzar exclusivament l'eina aprovada per l'empresa. Això garanteix la consistència i redueix els riscos associats amb l'AI en l'ombra.

7. Mesurar i aprendre

   Finalment, mesureu de manera contínua l'adopció, l'ús i l'eficàcia de les eines d'IA generativa dins de la vostra organització. Utilitzeu aquestes dades per simplificar processos i desenvolupar les millors pràctiques que es puguin implementar a tota l'empresa.

Estimació de l'ús de l'AI en l'ombra a les organitzacions

Per il·lustrar l'abast de l'ús de l'AI en l'ombra dins de les organitzacions, el següent gràfic mostra una estimació de l'ús d'eines d'IA generativa mesurat en milers de tokens per empleat. Les dades d'aquest gràfic es basen en estimacions derivades de diverses empreses amb les quals treballo. És important destacar que l'ús pot variar significativament depenent del rol de l'empleat, les responsabilitats i el sector en què treballa.

Aquest gràfic posa de manifest el creixement ràpid en l'ús d'eines d'IA dins de les organitzacions, impulsat per l'accessibilitat creixent d'eines com ChatGPT. No obstant això, la variació en l'ús subratlla la importància de monitorar de prop les activitats d'IA dins de la vostra organització per garantir que s'ajustin a les polítiques de l'empresa i als objectius estratègics.

Conclusió: Atureu l'AI en l'ombra abans que comenci

En resum, la clau per gestionar l'IA generativa dins de la vostra organització és prevenir l'AI en l'ombra proporcionant proactivament les eines i la orientació que necessiten els vostres empleats. Prendre el control de l'ús de l'IA a través d'interfícies aprovades, registrar l'activitat, aprofitar les tècniques RAG i fomentar un entorn impulsat per la retroalimentació us permetrà aprofitar tot el potencial de l'IA minimitzant els riscos. És hora d'aturar els vostres empleats d'utilitzar ChatGPT a les ombres i començar a integrar-lo estratègicament dins de la vostra empresa.