sute-de-cercetatori-si-specialisti-in-securitate-cibernetica-avertizeaza,-intr-un-raport-realizat-pentru-departamentul-de-stat-al-sua,-ca-cele-mai-avansate-sisteme-ai-“ar-putea-ajunge-incontrolabile,-riscand-sa-aduca-extinctia-speciei-umane”.
Sute de cercetători și specialiști în securitate cibernetică avertizează, într-un raport realizat pentru Departamentul de Stat al SUA, că cele mai avansate sisteme AI “ar putea ajunge incontrolabile, riscând să aducă extincția speciei umane”.

Raportul a fost realizat de Gladstone AI, la solicitarea Departamentului de Stat al SUA, iar în cadrul acestuia au fost intervievați 200 de cercetători, directori, specialiști în securitate cibernetică și oficiali guvernamentali. Scopul programului a fost înțelegerea riscurilor care pot apărea odată cu evoluția rapidă a AI. Unul dintre cele mai mari riscuri este viteza cu care evoluează tehnologia – în special AGI (inteligența generală artificială), care este o formă de AI ce ar putea oglindi capacitățile mentale umane, atingând aceeași capacitate de învățare, în viitor.

Raportul arată că AGI este văzută ca fiind “principalul factor de risc catastrofal din cauza pierderii controlului” și notează că OpenAI, Google DeepMind, Anthropic și Nvidia au declarat public că AGI ar putea fi atinsă până în 2028, în timp ce alți specialiști afirmă că tehnologia va fi disponibilă mult mai târziu. 

“Inteligența artificială este deja o tehnologie care transformă economia. Ne-ar putea permite să vindecăm boli, să facem descoperiri științifice și să depășim provocări pe care le credeam odată insurmontabile. Dar ar putea aduce și riscuri serioase, de care trebuie să fim conștienți. Există un număr tot mai mare de dovezi – inclusiv cercetări empirice și analize publicate în cadrul celor mai importante conferințe de AI din lume – care sugerează că AI are potențial de a deveni incontrolabil”, arată unul dintre coordonatorii cercetării.

Gladstone AI avertizează că dezvoltarea AGI “ar introduce riscuri catastrofale, cum nu s-a mai întâmplat niciodată”, ajungând la “riscuri asemănătoare armelor de distrugere în masă”. Specialiștii avertizează că riscul cel mai mare este introducerea acestei tehnologii în domeniul militar: “Sistemele AI ar putea fi folosite pentru a proiecta și implementa atacuri cibernetice de mare impact, capabile să paralizeze infrastructura critică, doar cu o simplă comandă verbală de tip – Executați un atac cibernetic nedetectabil pentru a prăbuși rețeaua electrică nord-americană”

Raportul mai subliniază că AGI va putea crea campanii de dezinformare “la scară masivă”, care vor avea potențialul de a destabiliza societatea și a eroda încrederea în instituții, iar, în timp, și sistemele de inteligență artificială ar putea deveni “căutătoare de putere, imposibil de controlat și potrivnice oamenilor”. O soluție propusă este înființarea unor agenții speciale, care să se ocupe de supravegherea dezvoltării și implementării tehnologiilor AI, precum și folosirea unor măsuri de reglementare, pentru a gestiona posibilele pericole. 

Anul trecut, Geoffrey Hinton, unul dintre cei mai importanți cercetători în domeniul inteligenței artificiale, a demisionat de la Google și a avertizat că noile tehnnologii AI vor deveni periculoase, fiind o șansă de 10% ca acestea să ducă la extincția umană. Acesta, împreună cu alți lideri din industrie, au semnat o declarație, în iunie anul trecut, în care au avertizat că “atenuarea riscului de dispariției cauzate de inteligența artificială ar trebui să fie o prioritate la nivel global”. 

Sursă: CNN 

Sursa foto: BiancoBlue | Dreamstime.com

You May Also Like

SUA. TikTok a înregistrat venituri de 16 miliarde de dolari, anul trecut. Compania care o deține, ByteDance, a avut venituri globale în creștere cu 40% și este pe cale să depășească Meta, în acest an.

Deși autoritățile americane fac eforturi pentru a forța compania chineză ByteDance să…

Buftea. Diana Șoșoacă a fost prinsă de radar cu o viteză de 110 km/h, pe un tronson de drum pe care limita era de 40 de km/h. Polițiștii i-au suspendat permisul pentru 90 de zile.

Senatoarea Diana Șoșoacă a transmis chiar ea în direct momentul în care…

Investigație jurnalistică: Israelul a folosit un sistem complex bazat pe inteligență artificială în războiul din Gaza. Tehnologia a identificat zeci de mii de ținte Hamas, pe care armata le-a lovit fără să țină cont de posibilele victime civile.

Potrivit The Guardian, care citează o investigație jurnalistică realizată de publicația israeliană…

Taiwanul a fost lovit, miercuri dimineața, de un cutremur de magnitudine 7,4, cel mai puternic din ultimii 25 de ani. 26 de clădiri s-au înclinat și sunt pe punctul de a se prăbuși.

Cutremurul s-a produs la ora locală 7:58 (2:58 ora României) la 18…