Vo štvrtok prezident Joe Biden uskutočnilo stretnutie v Bielom dome s generálnymi riaditeľmi popredných spoločností s umelou inteligenciou vrátane Google, Microsoft, OpenAI a Anthropic, pričom zdôraznili dôležitosť zaistenia bezpečnosti produktov AI pred nasadením. Počas stretnutia Biden naliehal na vedúcich pracovníkov, aby riešili riziká, ktoré AI predstavuje. Niektorí odborníci na AI však kritizovali vylúčenie výskumníkov z oblasti etiky, ktorí už roky varujú pred nebezpečenstvom AI.
Za posledných pár mesiacov sa rýchlo rozbehli generatívne modely AI, ako je ChatGPT získal popularitu a zhromaždili intenzívny technologický humbuk, ktorý viedol spoločnosti k rýchlemu vývoju podobných produktov.
Ďalšie čítanie
Biden navrhuje novú „Bill of Rights“ na ochranu Američanov pred poškodením AIObavy však narastajú potenciálne problémy so súkromím, zaujatosť v oblasti zamestnanosti a potenciál ich využitia na vytváranie dezinformačných kampaní. Podľa Bieleho domu administratíva vyzvala na väčšiu transparentnosť, hodnotenia bezpečnosti, a ochranu pred zlomyseľnými útokmi počas „úprimnej a konštruktívnej diskusie“ s vedúcich pracovníkov.
Medzi najvýznamnejších účastníkov stretnutia patrili Sundar Pichai z Google, Satya Nadella z Microsoftu, Sam Altman z OpenAI a Dario Amodei z Anthropic.
Stretnutiu predsedala viceprezidentka Kamala Harrisová a na videu, na ktorom Biden „priskočil“ uverejnené na TwitteriPrezident povedal: „Práve som prišiel poďakovať. To, čo robíte, má obrovský potenciál – a obrovské nebezpečenstvo. Viem, že tomu rozumieš. A dúfam, že nás môžete poučiť o tom, čo si myslíte, že je najviac potrebné na ochranu spoločnosti, ako aj na pokrok. Toto je naozaj, naozaj dôležité."
Minulú jeseň Bidenova administratíva vydala súbor usmernení s názvom „Listina práv AI“, ktorého cieľom je chrániť Američanov pred škodlivými účinkami automatizovaných systémov vrátane zaujatosti, diskriminácie a otázok ochrany súkromia.
Reagujú výskumníci etiky AI
Zatiaľ čo Bidenovo pozvanie prejavilo záujem vedenia o horúcu politickú tému, kritici pozvaných spoločností etické rekordy neboli ohromení stretnutím s mnohými spochybnenie voľby pozvať na stretnutie ľudí, ktorí podľa nich zastupujú spoločnosti, ktoré vytvorili problémy s AI, ktoré sa Biely dom snaží riešiť.
Na Twitteri výskumník AI Dr. Timnit Gebru napísal„Zdá sa, že polovicu času trávime rozhovormi s rôznymi zákonodarcami a agentúrami a STÁLE tu máme tieto sračky. Miestnosť plná chalanov, ktorí nám dali problémy a vyhodili nás za to, že sme hovorili o rizikách, pričom ich ten prekliaty prezident vyzval, aby sme ‚chránili práva ľudí‘.“
Ďalšie čítanie
Google sa rozlúčil so špičkovým výskumníkom AI po zablokovaní papiera, čelí spätnému rázuV roku 2020 Google prepustil Gebru po spore o výskumný dokument, na ktorom bola spoluautorka a ktorý poukázal na potenciálne riziká a zaujatosti vo veľkých jazykových modeloch. Nehoda vyvolala diskusiu v rámci výskumnej komunity AI o záväzku spoločnosti Google dodržiavať etiku AI.
Podobne aj výskumníčka AI z Oxfordskej univerzity Elizabeth Renieris tweetoval, "Bohužiaľ a pri všetkej úcte POTUS, toto nie sú ľudia, ktorí nám môžu povedať, čo je "najviac potrebné na ochranu spoločnosti", pokiaľ ide o #AI."
Kritika odzrkadľuje spoločnú priepasť medzi tým, čo sa často nazýva „bezpečnosť AI“ (voľné hnutie, ktoré sa týka predovšetkým hypotetického existenčného rizika AI, otvorene spojené s zamestnanci OpenAI) a „etika AI“ (skupina výskumníkov sa do značnej miery týka o nesprávnych aplikáciách a vplyvoch súčasných systémov AI vrátane zaujatosti a dezinformácií).
Ďalšie čítanie
OpenAI skontroloval, či GPT-4 môže prevziať svetV tomto zmysle autor Dr. Brandeis Marshall navrhol zorganizovanie „protistretnutia“ k stretnutiu v Bielom dome, ktoré by zahŕňalo Objímajúca tvár, Distribuovaný výskumný ústav AI, Centrum kritického internetového prieskumu UCLA, a Algorithmic Justice League.
Aj vo štvrtok Biely dom oznámil investíciu 140 miliónov dolárov na spustenie siedmich výskumných ústavov AI prostredníctvom National Science Foundation. Okrem toho sa spoločnosti Anthropic, Google, Hugging Face, Nvidia, OpenAI a Stability AI zúčastnia verejných hodnotení svojich systémov AI na DEF CON 31.
Po stretnutí v Bielom dome Harris prepustil a vyhlásenie hovorí: „Súkromný sektor má etickú, morálnu a právnu zodpovednosť za zaistenie bezpečnosti a ochrany svojich produktov. A každá spoločnosť musí dodržiavať existujúce zákony na ochranu amerického ľudu. Teším sa na pokračovanie a pokračovanie v nasledujúcich týždňoch."
