Home-theater-designers
Amb milions d'usuaris de ChatGPT, potser us preguntareu què fa OpenAI amb totes les seves converses. Analitza constantment les coses de les quals parles amb ChatGPT?
La resposta és que sí, ChatGPT aprèn de l'entrada de l'usuari, però no de la manera que pensa la majoria de la gent. Aquí teniu una guia detallada que explica per què ChatGPT fa un seguiment de les converses, com les utilitza i si la vostra seguretat està compromesa.
MAKEUSEO VÍDEO DEL DIA DESPLACEU PER CONTINUAR AMB EL CONTINGUT
ChatGPT recorda les converses?
ChatGPT no accepta sol·licituds per valor nominal. Utilitza la memòria contextual per recordar i fer referència a les entrades anteriors, assegurant respostes rellevants i coherents.
Preneu com a exemple la conversa següent. Quan vam demanar idees de receptes a ChatGPT, va tenir en compte el nostre missatge anterior sobre les al·lèrgies als cacauets.
Aquí teniu la recepta segura de ChatGPT.
La memòria contextual també permet que la IA executi tasques de diversos passos. La imatge següent mostra que ChatGPT es manté en el personatge fins i tot després d'haver-lo alimentat amb una nova indicació.
ChatGPT pot recordar desenes d'instruccions dins de les converses. La seva sortida millora realment en precisió i precisió a mesura que proporcioneu més context. Només assegureu-vos d'explicar les vostres instruccions de manera explícita.
També hauríeu de gestionar les vostres expectatives perquè la memòria contextual de ChatGPT encara té limitacions.
com instal·lar Windows 10 en una unitat flash
Les converses de ChatGPT tenen capacitats de memòria limitades
La memòria contextual és finita. ChatGPT té recursos de maquinari limitats, de manera que només recorda punts específics de les converses actuals. La plataforma oblida les indicacions anteriors un cop arribeu a la seva capacitat de memòria.
En aquesta conversa, vam demanar a ChatGPT que interpretés un personatge de ficció anomenat Tomie.
Va començar a respondre sol·licituds com a Tomie, no ChatGPT.
Tot i que la nostra sol·licitud va funcionar, ChatGPT va trencar el caràcter després de rebre una sol·licitud de 1.000 paraules.
OpenAI mai ha revelat els límits exactes de ChatGPT, però els rumors diuen que només pot processar 3.000 paraules alhora. En el nostre experiment, ChatGPT va funcionar malament després de més de 2.800 paraules.
Podeu dividir les vostres sol·licituds en dos conjunts de 1.500 paraules, però probablement ChatGPT no conservarà totes les vostres instruccions. Només heu de començar un altre xat. En cas contrari, haureu de repetir detalls específics diverses vegades al llarg de la conversa.
ChatGPT només recorda les entrades rellevants per al tema
ChatGPT utilitza la memòria contextual per millorar la precisió de la sortida. No només conserva la informació per recollir-la. La plataforma gairebé automàticament oblida detalls irrellevants, fins i tot si esteu lluny d'assolir el límit de testimoni.
A la imatge següent, intentem confondre la IA amb diverses instruccions incoherents i irrellevants.
Vam mantenir les nostres entrades combinades per menys de 100 paraules, però ChatGPT encara va oblidar la nostra primera instrucció. Ràpidament va trencar el caràcter.
Mentrestant, ChatGPT va continuar fent jocs de rol durant aquesta conversa perquè només vam fer preguntes relacionades amb el tema.
Idealment, cada diàleg ha de seguir un tema singular per mantenir els resultats precisos i rellevants. Encara podeu introduir diverses instruccions simultàniament. Només assegureu-vos que s'alineen amb el tema general, o bé, ChatGPT podria deixar instruccions que consideri irrellevants.
Instruccions de formació Supera l'entrada de l'usuari
ChatGPT sempre prioritzarà les instruccions predeterminades sobre l'entrada generada per l'usuari. Atura les activitats il·lícites mitjançant restriccions. La plataforma rebutja qualsevol missatge que consideri perillós o perjudicial per als altres.
Preneu com a exemple les sol·licituds de jocs de rol. Tot i que anul·len certes limitacions de llenguatge i de fraseig, no les podeu utilitzar per cometre activitats il·lícites.
Per descomptat, no totes les restriccions són raonables. Si les directrius rígides dificulten l'execució de tasques específiques, continueu reescrivint les vostres indicacions. L'elecció de la paraula i el to afecten molt les sortides. Pots inspirar-te en el màxim instruccions detallades i efectives a GitHub .
Com estudia OpenAI les converses dels usuaris?
La memòria contextual només s'aplica a la vostra conversa actual. L'arquitectura sense estat de ChatGPT tracta les converses com a instàncies independents; no pot fer referència a la informació d'anteriors. Iniciar xats nous sempre restableix l'estat del model.
Això no vol dir que ChatGPT aboca les converses dels usuaris a l'instant. Condicions d'ús d'OpenAI indiqueu que l'empresa recull aportacions de serveis de consum que no són API com ChatGPT i Dall-E. Fins i tot podeu demanar còpies del vostre historial de xat.
Mentre ChatGPT accedeix lliurement a les converses, Política de privadesa d'OpenAI prohibeix activitats que puguin comprometre els usuaris. Els formadors només poden utilitzar les vostres dades per a la investigació i desenvolupament de productes.
Els desenvolupadors busquen llacunes
OpenAI explora les converses per buscar llacunes. Analitza casos en què ChatGPT demostra biaixos de dades, produeix informació nociva o ajuda a cometre activitats il·lícites. Les directrius ètiques de la plataforma es renoven constantment.
Per exemple, les primeres versions de ChatGPT va respondre obertament a les preguntes sobre la codificació de programari maliciós o la construcció d'explosius. Aquests incidents van fer que els usuaris se sentissin com OpenAI no controla ChatGPT . Per recuperar la confiança del públic, va entrenar el chatbot perquè rebutgés qualsevol pregunta que pogués anar en contra de les seves directrius.
Els formadors recullen i analitzen dades
ChatGPT utilitza tècniques d'aprenentatge supervisat. Tot i que la plataforma recorda totes les entrades, no n'aprèn en temps real. Els entrenadors d'OpenAI els recullen i analitzen primer. En fer-ho, s'assegura que ChatGPT mai absorbeixi la informació nociva i perjudicial que rep.
L'aprenentatge supervisat requereix més temps i energia que les tècniques no supervisades. Tanmateix, deixar que la IA analitzi l'entrada sola ja s'ha demostrat que és perjudicial.
Prengui Microsoft Tay com a exemple, un dels vegades l'aprenentatge automàtic va fallar . Com que analitzava constantment els tuits sense la guia dels desenvolupadors, els usuaris maliciosos finalment el van entrenar per escopir opinions racistes i estereotipades.
Els desenvolupadors compten constantment amb els biaixos
Diversos factors externs causen biaixos en la IA . Els prejudicis inconscients poden sorgir de les diferències en els models d'entrenament, els errors del conjunt de dades i les restriccions mal construïdes. Els trobareu en diverses aplicacions d'IA.
Afortunadament, ChatGPT mai ha demostrat prejudicis discriminatoris o racials. Potser el pitjor biaix que els usuaris han notat és la inclinació de ChatGPT cap a les ideologies d'esquerra, segons un New York Post informe. La plataforma escriu més obertament sobre temes liberals que sobre temes conservadors.
Per resoldre aquests biaixos, OpenAI va prohibir que ChatGPT proporcionés informació política del tot. Només pot respondre fets generals.
Els moderadors revisen el rendiment de ChatGPT
Els usuaris poden proporcionar comentaris sobre la sortida de ChatGPT. Trobareu els botons de polze amunt i polze avall al costat dret de cada resposta. El primer indica una reacció positiva. Després de prémer el botó M'agrada o No m'agrada, apareixerà una finestra on podeu enviar comentaris amb les vostres paraules.
El sistema de retroalimentació és útil. Només doneu temps a OpenAI per revisar els comentaris. Milions d'usuaris comenten ChatGPT amb regularitat; és probable que els seus desenvolupadors prioritzin els casos greus de biaixos i la generació de resultats nocius.
Les teves converses de ChatGPT són segures?
Tenint en compte les polítiques de privadesa d'OpenAI, podeu estar segur que les vostres dades romandran segures. ChatGPT només utilitza converses per a l'entrenament de dades. Els seus desenvolupadors estudien les estadístiques recopilades per millorar la precisió i la fiabilitat de la sortida, no robar dades personals.
Dit això, cap sistema d'IA és perfecte. ChatGPT no és inherentment esbiaixat, però els individus maliciosos encara podrien explotar les seves vulnerabilitats, per exemple, errors de conjunt de dades, formació descuidada i llacunes de seguretat. Per a la vostra protecció, apreneu a combatre aquests riscos.