Recentment, hem vist com la intel·ligència artificial (IA) ha estat utilitzada per a finalitats malicioses.

Un cas destacat és l’estafa que va involucrar un deepfake de l’actor Brad Pitt, on estafadors van utilitzar aquesta tecnologia per manipular emocionalment les víctimes i obtenir diners. Aquest cas és un exemple clar dels riscos reals que comporta l’ús inadequat de la IA.

Però, quins són exactament aquests riscos? I com podem protegir-nos a nosaltres mateixos i a les nostres famílies? A Familyupp, volem ajudar-te a comprendre els perills de la IA i a preparar-te per afrontar-los amb seguretat.

Quins són els riscos de la IA?

1. Suplantació d’identitat (Deepfakes)

La IA pot generar vídeos i àudios realistes utilitzant la veu o la imatge d’una persona. Aquests materials poden ser utilitzats per estafadors per enganyar víctimes, fer xantatge o manipular emocionalment.

La IA recull i processa una gran quantitat de dades personals, incloent-hi informació sensible com ubicacions, hàbits de navegació i preferències personals. Els nens i nenes, sovint menys conscients dels riscos, són més vulnerables a compartir informació privada.
• Exemple real: Segons un informe de la Children’s Online Privacy Protection Act (COPPA) als Estats Units, moltes aplicacions i jocs populars per a nens i nenes recopilen dades sense el consentiment dels pares.

• Exemple real : L’estafa del suposat Brad Pitt va consistir en l’ús d’un vídeo fals per convèncer persones que estaven interactuant amb l’actor real. Això va permetre als estafadors obtenir diners i informació confidencial.

2. Estafes personalitzades (Phishing avançat)

Amb la IA, els delinqüents poden crear missatges personalitzats basats en la informació que troben a les xarxes socials. Això fa que les estafes siguin molt més convincents i difícils de detectar.
• Exemple real: Segons un estudi de Pew Research Center, el 64% de les persones no poden identificar un correu electrònic fals personalitzat.

3. Manipulació emocional i psicològica

Els algoritmes d’IA estudien el comportament en línia per generar contingut que manipuli les emocions, fomentant compres impulsives, reforçant estereotips o explotant la vulnerabilitat emocional.

Les recomanacions personalitzades impulsades per IA poden manipular el comportament dels nens i nenes, exposant-los a missatges que reforcen estereotips o inciten al consumisme.
• Cas pràctic: A TikTok, un algoritme va promoure contingut relacionat amb trastorns alimentaris a adolescents, segons un reportatge de The Wall Street Journal.

4. Exposició a contingut inapropiat

La IA també genera contingut automàticament en plataformes com YouTube o TikTok, que pot semblar adequat per a nens i nenes, però conté missatges perillosos o visuals inapropiats.

Tot i que les plataformes de IA intenten filtrar contingut, no sempre són eficients. Un nen pot estar exposat a contingut violent, sexual o que fomenta hàbits tòxics, fins i tot en aplicacions dissenyades per a infants.
• Dades: Un estudi de Common Sense Media va revelar que un 60% dels nens d’entre 8 i 12 anys han accedit accidentalment a contingut inapropiat.

5. Addicció digital

Els algoritmes estan dissenyats per captar i mantenir la nostra atenció. Això pot provocar que nens i nenes i adolescents passin massa temps a les pantalles, afectant el seu desenvolupament emocional i físic.

Els algoritmes d’IA estan dissenyats per mantenir els usuaris enganxats a les pantalles, creant hàbits perjudicials, especialment entre els més joves.
• Dades impactants: Segons un informe de Global Web Índex, els nens passen una mitjana de 4 hores al dia davant les pantalles, una xifra que ha augmentat significativament amb l’ús de dispositius mòbils.

Com podem protegir la nostra família?

1. Educa sobre la IA i els seus riscos

Parla amb els teus fills sobre com funciona la IA i com pot ser utilitzada de manera malintencionada. Fes-ho amb exemples clars, com l’estafa del suposat Brad Pitt, perquè comprenguin la importància de ser crítics amb el que veuen i escolten en línia.

2. Verifica sempre la informació

Si rebeu un missatge, vídeo o àudio estrany, encara que sembli real, verifica la seva autenticitat. Contacta directament la persona implicada per altres vies abans de respondre o actuar.

3. Protegeix la privacitat a les xarxes socials

• Configura els perfils en mode privat.
• Evita publicar dades personals, com ubicacions, hàbits o rutines diàries.
• Ensenya als teus fills a no compartir informació confidencial amb desconeguts.

4. Control parental i supervisió

Utilitza eines de control parental per limitar l’accés a continguts inapropiats i supervisar l’ús d’aplicacions i dispositius. Plataformes com Qustodio o Google Family Link són útils per a aquest propòsit.

5. Fomenta el pensament crític

Ajuda els teus fills a qüestionar-se el que veuen en línia i a identificar possibles manipulacions o estafes. Explica’ls que no tot el que es veu o es llegeix és real.

6. Estableix límits d’ús de dispositius

Redueix el temps que els nens passen davant les pantalles i fomenta activitats fora de línia, com la lectura, l’esport o les estones en família.

7. Mantingues-te informat

La tecnologia i la IA evolucionen ràpidament. Estar al dia sobre els últims avenços i riscos és fonamental per protegir la teva família.

Conclusió

La intel·ligència artificial pot ser una eina increïblement útil, però també comporta riscos reals i preocupants. Protegir la teva família requereix educació, supervisió i accions pràctiques per garantir un ús segur de la tecnologia.

💡 A Familyupp, creiem que una família informada és una família protegida. Eduquem-nos i protegim-nos per garantir un futur digital segur per als nostres fills!

🔗 Comparteix aquest article amb altres famílies i ajuda’ns a conscienciar sobre aquest tema crucial.