AI: syttyvä sota ei ole sellainen kuin odotamme...

Suurin osa tieteiskirjallisista kertomuksista jollakin tavalla pakottaa meidät maailmaan, jossa ihmiskunnan on ennemmin tai myöhemmin kohdattavaTekoäly. Konflikti räjähtää heti, kun tekoäly tulee tietoiseksi itsestään ja päättää tuhota meidät tai löytää tavan hallita meitä.

Jos tämä näkökulma on realistinen (ja aiheesta olisi paljon keskusteltavaa), meitä odottava sota näyttää ajallisesti melko etäiseltä, kun otetaan huomioon nykyisten generatiivisten järjestelmien absoluuttinen tietoisuuden puute. Joten voimme nukkua sikeästi toistaiseksi. Tai ei?

"Asetus tekoälystä sotilaallisiin tarkoituksiin tarvitaan kiireesti"
Venäjän ja Ukrainan sota: Onko tekoälyllä vaikutusta?
Salaliitto, valeuutiset ja muukalaisviha: vaarallinen digitaalinen sekoitus

Nykyisen tekoälyn todelliset vaarat

Aiheesta on edelleen paljon hämmennystä Tekoäly. Hämmennystä, jota on tuskallista sanoa, että hyvässä taiteessa ruokkivat toimittajatoverit, jotka kirjoittavat siitä innostuneesti, mutta eivät useinkaan niin valmiita ymmärtämään sen todellista luonnetta, potentiaalia ja riskejä.

Tällaista hämmennystä rohkaisee myös luonnollinen taipumuksemme heijastaa itsemme mihin tahansa ulkoiseen kokonaisuuteen, oli se sitten toinen henkilö, eläin tai, kuten tässä tapauksessa, ohjelmistoobjekti.

Tästä johtuen vaikeutemme ymmärtää, kuinka älykäs käyttäytyminen ei edellytä lainkaan aitoa tietoisuutta.

Liian monien "napsautussyötti"-otsikoiden rohkaisemana yleisissä sanomalehdissä olemme siis huolissamme ongelmista, jotka ovat vielä kaukana ajassa, mutta emme näe tai aliarvioi niitä, jotka koskettavat meitä suoraan tänään.

Kuten aina siellä tekniikka sitä voidaan soveltaa tavalla, joka auttaa ihmisiä, mutta myös tavalla, joka vahingoittaa heitä.

Sosiaalisella tasolla esimerkiksi tekoälyä voidaan käyttää optimoimaan prosesseja ja palveluita, kuten kaupunkiliikennettä tai byrokraattisia ja terveydenhuoltopalveluja.

Tai se voi auttaa opettajia valmistelemaan yksilöllisiä oppitunteja tai kokeita kunkin oppilaan ominaisuuksien ja erityispiirteiden perusteella.

Henkilökohtaisella tasolla se voi auttaa meitä jokaista organisoimaan paremmin työmme ja aikamme ja hallitsemaan meille tylsimmät tai toistuvat osat.

Tai se voi auttaa meitä ilmaisemaan luovuutemme paremmin luomalla kuvia, musiikkia tai videoita ohjeidemme mukaisesti.

Hyvin käytetyn tekoälyn tulisi täydentää toimintaamme, ei korvata sitä.

Mutta koska nykyiset generatiiviset järjestelmät, jotka pystyvät tuottamaan tekstiä, kuvia ja videoita, perustuvat valtaviin tietokantoihin, jotka on otettu pääasiassa Internetistä, ne heijastavat usein meidän "puolueellisuus" ja ennen kaikkea ne toimivat tilastollisilla keskiarvoilla.

Kun yhä enemmän sisältöä syntyy Tekoälyt Itse riskinä on, että muodostuu keskiarvojen keskiarvoja, joiden taso laskee yhä konkreettisemmin.

Nämä ovat kuitenkin ongelmia, jotka voidaan kohdata ja ratkaista: suurin riski, josta en ole vielä puhunut, on inhimillinen tekijä.

Kuvagalleria, sarjakuvia, jotka karkottavat verkon pelot
Innovaatio ja journalismi: usein vaikea rinnakkaiselo
Tekoäly on (myös) vallankumous valokuvien editoinnissa

Tekoälyn voima ja tuleva sota

Tähän mennessä olen käsitellyt ongelmia, jotka ovat jo tiedossa ja jotka voidaan loppujen lopuksi ratkaista ilman liiallista ahdistusta. Hyvä (tai huono) tulee nyt.

Kuvitellaan aTekoäly hyvin koulutettu, pystyy toistamaan realistisesti kenen tahansa äänen. Tällaisia ​​järjestelmiä on jo olemassa.

Yhdistetään se toiseen tekoälyyn, joka pystyy luomaan uskottavia videoita, joissa on oikeita ihmisiä. Myös nämä järjestelmät ovat olemassa ja joissain tapauksissa niitä on jo käytetty.

Tätä voimme luoda."syvä väärennös" (täysin väärennettyjä, mutta täysin uskottavia videoita) äärimmäisen yksinkertaisella tavalla poliittisten vastustajien, vihollismaiden tai yksinkertaisesti ihmisten, joista emme pidä, kustannuksella.

Joten luomme tuhansia (ei, kymmeniä tuhansia) chat-botteja, jotka teeskentelevät olevansa oikeita ihmisiä, rekisteröidy suosituimmat sosiaaliset verkostot ja he alkavat jakaa videoita, jotka on luotu panettelemaan, pilaamaan vastustajien uraa tai luomaan mahdollisimman paljon kaaosta vihollismaahan, ehkä vaalikaudella.

Näin syntyy totuuden sota, ja me kaikki olemme vaarassa menettää sen nyt.

Ja unohda viimeisimmät Yhdysvaltain vaalit, jotka joidenkin analyytikoiden mukaan vääristyivät ulkopuolelta (lue: Venäjän federaatiosta) "rokotettu" propaganda.

Verrattuna nykyisten järjestelmien potentiaaliin ja keskipitkällä tulevaisuudessa saavutettaviin mahdollisuuksiin, kaikki yritykset vääristää marraskuun 2020 uutisia olivat lasten leikkiä.

Näin pyöritämme ensimmäisen maailmansodan rumpuja AI:sta
Pizzinistä sosiaalisiin verkostoihin: näin mafia leviää verkossa
Moratin taistelusta tulee maailman suurin digitaalinen esine

Hallusinaatioita käytetään epätavanomaisina aseina

Le Tekoälyt Generatiivisilla ihmisillä on toimintaperiaatteissaan luontainen puute: he kärsivät hallusinaatioista. Uusimmat versiot, kuten ChatGPT-4, yrittävät rajoittaa ja korjata tätä suuntausta enemmän tai vähemmän menestyksellä.

Tätä "hallusinatorista potentiaalia" voisivat hyödyntää myös huono-aikeiset käyttäjät levittääkseen ilmeisen totuudenmukaisia ​​uutisia, jotka perustuvat tiettyjen poliittisten ryhmien enemmän tai vähemmän selkeisiin uskomuksiin ja vahvistavat heidän "puolueellisuus".

Kaikilla "tulivoimalla" on valtavasti parempi kuin muutama vuosi sitten.

Hyvin organisoitu ryhmä (joita ehkä auttoi noudattava hallitus) käyttäisi hyväkseen suuren enemmistön jo tunnettuja haavoittuvuuksia. tietokoneita Internetissä optimoituja hyökkäyksiä varten ja hallitset miljoonia laitteita.

Se tekisi tämän käyttämällä niitä vuorostaan ​​palvelimina väärennösten luomiseen sosiaalinen tili ei helposti erotettavissa aidoista.

Väärennetyt tilit levittäisivät sitten teesejä ja uutisia, joiden tarkoituksena oli vahvistaa edellä mainittujen ryhmien uskomuksia.

Ja ainoa tapa torjua tällaisia ​​hyökkäyksiä on… käyttääTekoäly.

Tekoäly ja konfliktit julkaisemattomien esseiden kokoelmassa
Näyttelijät Strikessä: Aitouden ja luovuuden puolustaminen tekoälyä vastaan
Video, Sveitsin ja Burgundin välinen yhteenotto digitoidaan ja säilytetään

Kriisi ja tällaisen kehityksen mahdollisuudet

Kuka voittaa tulevan sodan?

Le Tekoälyt sosiaalisten sabotoijien palveluksessa tai niitä, jotka on uskottu puolustamaan meitä?
Kukaan ei osaa sanoa tällä hetkellä.

Yhdestä voimme olla varmoja: vain hyvin valmistautunut maa (tai vielä parempaa maiden liitto), jolla on kriittisen ajattelun taitoja ja digitaalisia keinoja tuntevaa väestö, pystyy kohtaamaan nämä haasteet.

On välttämätöntä, että se ei koe tekoälyä ihmeenä tai uhkana, vaan oppii ymmärtämään sen ansiot, mahdollisuudet ja ongelmat kaukonäköisellä johtamisluokassa ja todellisella huomiolla eettisiä innovaatioita ja innovaatioita kohtaan. tekniikka.

Meidän on aloitettava tästä mahdollisimman pian...

Jos tekoäly on lastemme paras ystävä
Facebookin uutispuhe (tai "keinotekoinen dementia")
Kuvagalleria, Louis Braunin 1000 neliömetrin työpöydät