La Viquipedia defineix la intel·ligència artificial com una part de la informàtica, dedicada al desenvolupament d’algorismes que permet a una màquina prendre decisions intel·ligents o, si més no, comportar-se com si tingués una intel·ligència semblant a la humana.

Hi ha, però, la preocupació de com es controla la IA. La primera qüestió passa per acceptar que la intel·ligència artificial de l’habilitat de respondre i conseqüentment té responsabilitat al damunt. La responsabilitat és un valor i una pràctica ètica que no es pot obviar.

Ara s’acaba de fer un pas significatiu cap al desenvolupament responsable de la IA. Segons escriu Pawel Szewczuk, director general d’IA amb un enfocament en IA i estratègia de dades, a Medium, investigadors de l’ETH Zurich, l’Institut d’Informàtica i Intel·ligència Artificial (INSAIT) i LatticeFlow AI han llançat COMPL-AI, el primer marc d’avaluació de compliment de la Llei d’IA de la UE dissenyat per a models d’IA generatius. Aquest marc innovador pretén salvar la bretxa entre els amplis requisits reglamentaris de la Llei d’IA de la UE i les especificacions tècniques concretes necessàries per a avaluacions de compliment accionables.

En avaluar 12 LLM destacats mitjançant COMPL-AI, els investigadors revelen deficiències en els models i els punts de referència existents, especialment en àrees com la robustesa, la seguretat, la diversitat i l’equitat. El seu treball posa de manifest la necessitat d’un canvi d’enfocament cap a aquests aspectes per fomentar el desenvolupament equilibrat de LLM i punts de referència més complets alineats amb la normativa.

Segons Powel, els investigadors esperen que la Llei d’IA de la UE tingui un impacte significatiu tant en el desenvolupament de models com en les pràctiques de benchmarking. Els proveïdors de models hauran de prioritzar els aspectes que abans s’havien descuidat per aconseguir el compliment, la qual cosa conduirà, en última instància, a sistemes d’IA més segurs, justos i desenvolupats de manera més responsable. També es preveu que la Llei impulsi la investigació sobre aspectes poc explorats dels models d’IA i la seva avaluació, així com el desenvolupament de punts de referència més adequats.

Podeu accedir a l’article de Paweł Szewczuk a Medium des d’aquest enllaç.- BeMediàtic/Àmbit d’Estratègia (Il·lustració: compl-ai.org)