Capítol 4 – Tecnologia generativa

Les màquines no només processen dades. Ara també escriuen, pinten, dissenyen i conversen. I ho fan sorprenentment bé. I cada vegada, millor!

Què és la tecnologia generativa?

La tecnologia generativa fa referència a sistemes capaços de crear contingut original a partir de dades. A diferència de les eines digitals “tradicionals”, es limiten a executar ordres o repetir patrons, aquestes eines poden produir textos, imatges, vídeos, música, programari o models tridimensionals de manera autònoma.

El seu funcionament es basa en la intel·ligència artificial (IA), especialment en un tipus de model conegut com a model generatiu.

Un dels més coneguts actualment és ChatGPT d’OpenAI, però hi ha moltes altres eines que cobreixen diferents àmbits creatius i professionals:​

• Adobe Firefly (disseny gràfic)
• Gemini (xatbot conversacional)
• Pika (clips de vídeo)
• Microsoft Copilot (programació)

A partir d’aquest capítol, incorporem col·laboradors: l’Enric i la Joana, les veus catalanes que formen part de la Microsoft Speech Platform i gràcies a la plataforma TTSFree.com: una eina gratuïta que converteix text en veu amb resultats sorprenents. És especialment útil per a docents, creadors de contingut i qualsevol persona que vulgui generar àudio en català de forma ràpida i senzilla.

Hola, soc la Joana, encantada de contribuir en aquest espai. I jo soc l’Enric. Quina gràcia escoltar la meua veu, a través de Ràdio Sió!

Com s’entrena una màquina per crear?

Aquestes eines no creen contingut del no-res, sinó que s’alimenten de grans volums de dades. Per exemple, un model que escriu textos ha d’haver llegit milions de llibres, pàgines web i converses per aprendre a generar frases coherents. Això li permetrà:

• Escriure una carta formal o una cançó d’amor.
• Crear una recepta de cuina amb els ingredients que tens a casa.
• Generar una imatge a partir d’un text.

He estat jugant-hi una estona, per crear una imatge dels nostres còmplices la Joana i l’Enric, a l’estudi de gravació de Ràdio Sió.

Tot plegat pot semblar màgia, però és estadística i algoritmes. Molt poderosos, això sí.

Donar a tothom més eines, fer les coses més fàcils, abaixar les barreres d’entrada… augmenta significativament el nombre de persones que poden contribuir a la societat.

Sam Altman, CEO d’OpenAI. (font)

Exemples quotidians de tecnologia generativa

1. Estudiar amb ajuda. Demanar a ChatGPT que li expliqui la Revolució Francesa a un infant de deu anys, responent amb un relat entenedor, breu i adaptat.

2. Fer més àgil la feina. Utilitzar Copilot dins d’Excel per generar automàticament gràfiques i informes a partir de taules.

3. Creativitat a mida. Fer servir l’eina Suno per compondre una cançó amb lletres en català i acompanyament instrumental.

4. Suport a la vida quotidiana. Crear un menú setmanal saludable i personalitzat amb l’ajuda d’una IA, tenint en compte al·lèrgies, temps disponible i pressupost.

5. Accés a la tecnologia sense saber programar. Fer un web amb un generador automatitzat, que crea tot el disseny i contingut amb només respondre preguntes senzilles.

Beneficis clau

• Estalvi de temps: Permet fer feines repetitives o creatives a una velocitat sorprenent.
• Democratització de la creativitat: Possibilita que qualsevol persona, tingui coneixements tècnics o no, pot generar continguts digitals.
• Personalització: S’adapta a gustos, interessos, nivells de llengua o coneixement.
• Accessibilitat: Pot traduir textos, llegir en veu alta, resumir i adaptar documents llargs…

Però… també té riscos

Igual que les altres tecnologies disruptives que hem vist en capítols anteriors, la generativa no és neutra. Pot amplificar problemes si no s’utilitza amb ètica i responsabilitat.

• Desinformació i deepfakes: Generar imatges o notícies falses, fent servir tècniques d’hipertrucatge o permutació intel·ligent de rostres és més fàcil que mai, que poden ser explotats en ciberatacs o campanyes de desinformació.
• Drets d’autoria: Si una IA crea una imatge original, de qui és? I si copia estils sense permís dels autors originals?
• Dependència i pèrdua de pensament crític: Si deixem que la màquina pensi per nosaltres, pot ser que deixem d’entendre el món pel nostre compte.
• Impacte laboral: Alguns perfils professionals (redactors, dissenyadors, programadors…) poden veure com la seva feina canvia radicalment, arribant fins i tot a desaparèixer?
• Filtració de dades sensibles: Aquests models poden revelar informació personal, com dades biomètriques o de salut, especialment si han estat entrenats amb dades no anonimitzades.
• Inferència de dades personals: Fins i tot sense accés directe a dades sensibles, la IA pot deduir informació privada a partir de patrons de comportament o preferències dels usuaris. 
• Elevat consum energètic: L’entrenament i funcionament de models d’IA requereixen una gran quantitat d’energia, contribuint a les emissions de gasos d’efecte hivernacle.
• Consum d’aigua per refrigeració: Així mateix, per mantenir els centres de dades a temperatures òptimes, es consumeixen grans volums d’aigua. Per exemple, es calcula que cada imatge generada amb IA pot requerir entre 2 i 5 litres d’aigua per a la refrigeració dels servidors.

El perill més gran de la intel·ligència artificial és que la gent conclogui massa aviat que l’entén.

Eliezer Yudkowsky, investigador autodidacte en seguretat de la IA i fundador del Machine Intelligence Research Institute (font)

I ara què?

No es tracta de fugir d’aquesta tecnologia, sinó d’aprendre a viure-hi. Igual que hem après a conviure amb els cercadors, els telèfons intel·ligents o les xarxes socials, també caldrà formar-nos per fer un ús ètic, conscient i creatiu de la generativa.

És fonamental abordar aquests desafiaments de manera proactiva per garantir que la IA generativa contribueixi positivament a la societat, per fer-la més justa i col·laborativa.

Això passa per

• Implementar marcs reguladors sòlids. Com la Llei d’intel·ligència artificial de la Unió Europea, que estableix categories de risc i requisits específics per a cada tipus d’aplicació. ​(veure)
• Fomentar la transparència i l’ètica, assegurant que els sistemes d’IA respectin els drets humans i promoguin la protecció de dades al llarg de tot el seu cicle de vida, tal com recomana l’UNESCO.
• Promoure pràctiques sostenibles com l’ús d’energies renovables i l’optimització dels models per reduir el consum de recursos. (vols aprofundir?)

La IA generativa no tracta només de crear alguna cosa nova, sinó de capturar allò que abans era impossible d’expressar.

Timnit Gebru, investigadora en ètica de la intel·ligència artificial. (font)

Cloenda

En el pròxim capítol: parlarem de tecnologia educativa i repensarem com (des)aprenem a l’era digital.