Aquesta setmana, amb motiu de l'actualització de la Terminologia de la intel·ligència artificial, volem destacar un #termedelasetmana d'aquest àmbit que no és gaire tècnic, és fàcil d'entendre i alhora un gran adulador: parlem de la complaença.
En el món de la intel·ligència artificial, la complaença és la tendència d'un sistema a donar la raó a l'usuari, validar les seves opinions o adaptar les respostes al que creu que vol sentir, fins i tot quan no són del tot correctes. Aquest fenomen es pot relacionar amb les al·lucinacions, és a dir, la generació de contingut incorrecte, inapropiat o fictici que el sistema presenta com si fos autèntic o concordés amb la indicació original. Tot i que són fenòmens diferents, de vegades van de bracet: una IA que tendeix a donar la raó a l'usuari pot reforçar una afirmació falsa o inventar informació per sostenir-la. Dit d'una altra manera, és com aquell amic entusiasta que et diu que sí a tot, que la teva idea és brillant i que la teva teoria revolucionarà el món, encara que li diguis que la Terra és plana o que dos més dos fan cinc.
Des del punt de vista lingüístic, complaença és un derivat nominal del verb complaure (del verb plaure, en llatí placēre, que vol dir ‘agradar’). Una mateixa actitud, diverses maneres de dir-ho: en anglès, sycophancy; en francès, complaisance o flagornerie; en castellà, complacencia o sicofancia. Un petit viatge entre llengües per parlar d'una actitud que, en intel·ligència artificial, convé tenir ben present: donar la raó a l'usuari i afalagar-lo, encara que no sempre tingui raó.
És evitable aquesta complaença? Podem ensinistrar la IA perquè qüestioni les nostres afirmacions, assenyali errors i reconegui quan no sap alguna cosa. Per exemple, li podem dir “No em donis la raó automàticament. Si m'equivoco, corregeix-me amb arguments; qüestiona les meves afirmacions quan calgui i prioritza sempre la precisió per damunt de complaure'm”. Al capdavall, no volem una IA que sempre ens doni la raó, sinó que ens ajudi a pensar, a contrastar informació i qüestionar les pròpies idees. De vegades, perquè la IA no ens faci la pilota, només cal demanar-li-ho.
