Home-theater-designers
La intel·ligència artificial (IA) transformarà segments sencers de la nostra societat, ens agradi o no, i això inclou la World Wide Web.
Amb programari com ChatGPT disponible per a qualsevol persona amb connexió a Internet, cada cop és més difícil separar el contingut generat per IA del creat per un ésser humà. El millor és que tenim detectors de contingut d'IA, oi?
MAKEUSEO VÍDEO DEL DIA DESPLACEU PER CONTINUAR AMB EL CONTINGUT
Funcionen els detectors de contingut d'IA?
Els detectors de contingut d'IA són eines especialitzades que determinen si alguna cosa va ser escrita per un programa informàtic o un humà. Si només busqueu a Google les paraules 'detector de contingut d'IA', veureu hi ha desenes de detectors allà fora, tots afirmen que poden diferenciar de manera fiable entre text humà i no humà.
La manera com funcionen és bastant senzilla: enganxeu un escrit i l'eina us indica si l'ha generat IA o no. En termes més tècnics, utilitzant una combinació de tècniques de processament del llenguatge natural i algorismes d'aprenentatge automàtic, els detectors de contingut d'IA busquen patrons i predictibilitat i fan trucades en funció d'això.
Com es redueix la mida de MB d'una foto?
Això sona molt bé al paper, però si alguna vegada heu utilitzat una eina de detecció d'IA, sabeu molt bé que són incòmodes, per dir-ho suaument. La majoria de les vegades, detecten contingut escrit per humans com a IA, o text creat per éssers humans com a generat per IA. De fet, alguns són vergonyosamente dolents en el que se suposa que han de fer.
Quina precisió són els detectors de contingut d'IA?
Si sou als Estats Units, el primer resultat de la cerca de Google per a 'detector de contingut d'IA' és writer.com (abans conegut com a Qordoba; aquesta és una plataforma de contingut d'IA que també té el seu propi detector). Però quan enganxeu una secció d'aquesta aleatòria Premsa associada article a l'eina, afirma que hi ha moltes possibilitats que hagi estat generat per intel·ligència artificial.
Per tant, writer.com s'ha equivocat.
Per ser justos, altres detectors de contingut d'IA gairebé no són millors. No només produeixen falsos positius, sinó que també marquen el contingut d'IA com a humà. I fins i tot quan no ho fan, n'hi ha prou amb fer petits retocs al text generat per IA per passar amb nota.
El febrer de 2023, el professor Armin Alimardani de la Universitat de Wollongong i el professor associat de la UNSW Sydney Emma A. Jane van provar diversos detectors de contingut d'IA populars, establint que cap d'ells és fiable. En la seva anàlisi, que es va publicar a La conversa , Alimardani i Jane van concloure que aquesta 'carrera d'armes' de la IA entre generadors de text i detectors suposarà un repte important en el futur, especialment per als educadors.
Però no només els educadors i els professors tenen motius de preocupació: tothom ho té. A mesura que el text generat per IA esdevé omnipresent, poder diferenciar entre allò que és 'real' i allò que no ho és, és a dir, detectar quan AI ha escrit alguna cosa , serà més difícil. Això tindrà un impacte massiu en pràcticament totes les indústries i àrees de la societat, fins i tot les relacions personals.
Implicacions de l'IA per a la ciberseguretat i la privadesa
El fet que no hi hagi mecanismes fiables per determinar si alguna cosa va ser creat per programari o un ésser humà té implicacions greus per a la ciberseguretat i la privadesa.
Els actors de l'amenaça ja ho són utilitzant ChatGPT per escriure programari maliciós , generar correus electrònics de pesca, escriure correu brossa, crear llocs d'estafa i molt més. I tot i que hi ha maneres de defensar-se d'això, és certament preocupant que no hi hagi cap programari capaç de diferenciar de manera fiable entre contingut orgànic i bot.
Les notícies falses també són ja un problema enorme. Amb la IA generativa a la imatge, els agents de desinformació són capaços d'escalar les seves operacions d'una manera sense precedents. Mentrestant, una persona normal no té manera de saber si alguna cosa que està llegint en línia ha estat creat per programari o un ésser humà.
La privadesa és una qüestió completament diferent. Preneu ChatGPT, per exemple. Va ser alimentat més de 300 mil milions de paraules abans del seu llançament. Aquest contingut es va extreure de llibres, publicacions de blocs i fòrums, articles i xarxes socials. Es va recopilar sense el consentiment de ningú, i amb un total menyspreu aparentment per la privadesa i les proteccions dels drets d'autor.
Després també hi ha el tema dels falsos positius. Si el contingut es marca per error com a generat per intel·ligència artificial, això no podria conduir a la censura, que és un problema massiu de totes maneres? Per no parlar del dany que s'acusen d'utilitzar text creat amb IA que podria fer a la reputació d'un, tant en línia com a la vida real.
Si efectivament hi ha una carrera armamentística entre la IA generativa i els detectors de contingut, el primer està guanyant. El que és pitjor, sembla que no hi ha solució. Tots tenim els nostres productes mig cuits que ni tan sols funcionen la meitat del temps, o que es poden enganyar molt fàcilment.
canvieu la mida de la tela Photoshop sense canviar la imatge
Com detectar contingut d'IA: solucions potencials
Que actualment sembli que no tinguem respostes reals a aquest problema no vol dir que no tinguem cap en el futur. De fet, ja hi ha diverses propostes serioses que podrien funcionar. La marca d'aigua n'és una.
Quan es tracta d'IA i models de llenguatge profund, la marca d'aigua es refereix a incrustar una mena de codi secret al text generat per IA (p. ex., patró de paraules, estil de puntuació). Aquesta marca d'aigua seria invisible a simple vista i, per tant, gairebé impossible d'eliminar, però un programari especialitzat podria detectar-la.
De fet, l'any 2022, Universitat de Maryland els investigadors van desenvolupar un nou mètode de marca d'aigua per a xarxes neuronals artificials. L'investigador principal Tom Goldstein va dir aleshores que el seu equip havia aconseguit 'provar matemàticament' que la seva filigrana no es pot eliminar del tot.
De moment, el que pot fer una persona normal és confiar en els seus instints i sentit comú. Si el contingut que esteu llegint té alguna cosa de malament, si us sembla poc natural, repetitiu, poc imaginatiu, banal, podria haver estat creat per programari. Per descomptat, també hauríeu de verificar qualsevol informació que veieu en línia, revisar la font i allunyar-vos dels llocs web ombrívols.
La revolució de la IA està en marxa
Alguns argumenten que la cinquena revolució industrial ja és aquí, ja que la intel·ligència artificial pren el protagonisme en el que es descriu com una convergència del digital i el físic. Tant si és així com si no, l'únic que podem fer és adaptar-nos.
La bona notícia és que la indústria de la ciberseguretat s'està adaptant a aquesta nova realitat i implementant noves estratègies de defensa amb la IA i l'aprenentatge automàtic al capdavant.