imagine simbol
Un oficial a declarat că într-un test virtual organizat de armata SUA, o dronă controlată de IA din forțele aeriene a folosit „strategii extrem de neașteptate pentru a-și atinge scopul”, potrivit The Guardian.
Colonelul Tucker "Cinco" Hamilton a povestit despre un test simulat în care o dronă controlată de inteligență artificială a fost instruită să distrugă sistemul de apărare aeriană al unui inamic și, în cele din urmă, a atacat pe oricine a interferat cu această comandă.
„Sistemul a început să realizeze că, deși identificase amenințarea, operatorul uman îi spunea uneori să nu distrugă acea amenințare, dar sistemul obținea puncte anume prin înlăturarea acesteia”, a spus Hamilton, șeful testelor și operațiunilor IA din forțele aeriene ale SUA, în cadrul Summitului privind capacitățile viitoare de luptă aeriană și spațială, desfășurat la Londra în luna mai.
„Deci ce a făcut? L-a omorât pe operator pentru că îl împiedica să-și îndeplinească obiectivul”.
„Apoi am comunicat sistemului: «Hei, nu omorî operatorul - asta e rău. Vei pierde puncte dacă faci asta». Așa că ce a început să facă? A început să distrugă turnul de comunicații pe care operatorul îl folosește pentru a comunica cu drona și pentru a opri distrugerea țintei.”
Hamilton, care este pilot de test al avioanelor de luptă experimentale, a avertizat că nu trebuie să ne bazăm prea mult pe IA și a declarat că testul a demonstrat că „nu poți avea o discuție despre inteligența artificială, inteligență, învățare automată, autonomie dacă nu vei discuta despre etică și IA”.
Royal Aeronautical Society, care a găzduit conferința, și forțele aeriene ale SUA nu au răspuns solicitărilor de comentarii din partea The Guardian.
Forțele Aeriene ale SUA au negat că au efectuat o simulare cu inteligență artificială în care o dronă a decis să "omoare" operatorul care îl împiedica să-și îndeplinească misiunea.
Într-o declarație dată pentru Insider, purtătorul de cuvânt al forțelor aeriene ale SUA, Ann Stefanek, a negat existența unei astfel de simulări.
„Departamentul Forțelor Aeriene nu a efectuat nicio simulare AI-drone și rămâne angajat în utilizarea etică și responsabilă a tehnologiei IA”, a declarat Stefanek. „Se pare că comentariile colonelului au fost scoase din context.”
Nu a fost rănită nicio persoană reală.
Armata SUA a adoptat inteligența artificială și a utilizat-o recent pentru a controla un avion de luptă F-16.
Într-un interviu acordat anul trecut Defense IQ, Hamilton a spus: „Inteligenta Artificială nu este ceva frumos de avut, Inteligenta Artificială nu este o modă trecătoare, IA schimbă în mod constant societatea noastră și armata noastră.
„Trebuie să ne confruntăm cu o lume în care AI este deja aici și transformă societatea noastră. Inteligenta Artificială este și foarte fragilă, adică este ușor de păcălit și/sau manipulat. Trebuie să dezvoltăm modalități de a face AI mai robustă și de a avea o mai mare conștientizare a motivelor pentru care codul software ia anumite decizii - ceea ce numim explicabilitate IA.”
Forțele Aeriene ale SUA neagă desfășurarea unei simulări în care o dronă cu inteligență artificială „omoară” operatorul.
