Prečo si detektory AI myslia, že Ústavu USA napísala AI

Či sú tieto nástroje holisticky užitočné, je úplne iná konverzácia. Ak je chybovosť približne 10 %, ako sa zdá v článku, potom by som tvrdil, že pre pedagógov stále poskytujú určitú hodnotu.

Kým AI nepochopí, čo vlastne píše, spochybňujem myšlienku, že a dobre Televízny/filmový scenár s motívmi, spätnými volaniami a vývojom postavy. Pokrok, ktorý sme dosiahli v oblasti AI, neprispieva k porozumeniu a seriózni výskumníci neočakávajú, že LLM niekedy bude rozumieť - to nerobí model AI.

B, ale áno, výrazne sa líši od súčasného systému pre TV. obrovské zmeny v procese písania epizódy, ktorá sa hodí na konkrétne miesto v sezóne, čo ešte zhoršila moderná citlivosť na serializáciu obsahu s dlhými oblúkmi. Znižuje úsilie o spoluprácu, ktoré v súčasnosti existuje, a vzhľadom na povahu v súčasnosti používanej AI uprednostňuje viac formulovaná skúsenosť so samostatným obsahom v rámci komplexného dlhodobého rozprávania príbehov, ktoré v poslednej dobe poháňali televízne prostredie rokov.

Pavúky sa merajú v gramoch, nie v pohároch.

Pavúky sa merajú v gramoch, nie v pohároch.

Ktorú z nasledujúcich možností napísala AI?

1) Keď som bol dieťa, moja rodina a ja sme išli na pláž na zábavný deň na slnku. Hrali sme sa v piesku a čvachtali sa vo vode a užívali si každú chvíľu. Keď sa deň chýlil ku koncu, zbadal som smutne vyzerajúceho túlavého psa, ktorý sa túlal pozdĺž pobrežia. Nezniesol som to nechať za sebou, tak som k tomu pristupoval opatrne. Pes prekvapivo privítal môj dotyk a pritisol sa k mojej ruke, hľadajúc útechu. Prosil som svojich rodičov, aby si psíka priniesli domov a sľúbil som, že sa oňho postarám. Ale moji rodičia povedali nie, môže byť chorý alebo plný bĺch atď. Prosil som a plakal, ale oni stáli pevne. V ten deň som sa naučil, že aj keď niekto môže vidieť jednu vec ako vzácnu a zdravú, iná osoba ju môže považovať za absolútne bezcennú.

2) Jedného dňa v parku som bol na hojdačke a vznášal som sa vzduchom. Ale pri náhlom nešťastí som stratil priľnavosť a spadol som. Rukou mi prestrelila ostrá bolesť a po tvári mi začali stekať slzy. Bolesť bola neznesiteľná a chytil som si zranenú ruku. Neskôr som zistil, že je zlomený. V tej chvíli som si uvedomil krehkosť vlastného tela a nesmiernu nepohodu, ktorá môže sprevádzať nehody. Túžil som po úľave od bolesti, dúfajúc, že ​​čoskoro ustúpi, že niečo zastaví. Ale pokračovalo to. Na tú bolesť si pamätám dodnes.

3) Pamätám si na deň, keď som konečne nabral odvahu povedať svojej zamilovanosti, čo k nej cítim. Vzrušujúca úzkosť, búšenie srdca, očakávanie ako žiadne iné. Potom prišiel okamih pravdy a ja som jej povedal, čo cítim. Čas akoby sa zastavil. Len aby sa potom opäť pohla príliš rýchlo, keď povedala, že sa necíti rovnako. Nikdy nezabudnem na tú zmes smútku a sklamania.

Veľa písania pochádza z oboznámenia sa s rôznymi typmi písania. Veľa študentov dnes nečíta ani zďaleka toľko ako študenti posledných pár generácií. Majú veľmi malý cit pre používanie jazyka, pretože boli vystavení veľmi odlišným druhom písania ako napríklad tým, ktoré vyrástli pred internetom.

Ako tínedžer som prečítal viac kníh a článkov, ako väčšina mojich súčasných študentov pravdepodobne urobí za celý svoj život. Na druhej strane, prečítali viac krátkych jednovetových výrokov so zlou gramatikou, ktoré nezanechávajú žiadne ďalšie myšlienky, ako ja! V akom písaní teda podľa vás vynikajú?

Koľko príspevkov na fórach, ako sú tieto, má viac ako niekoľko odsekov? A koľko si myslíte, že je najskôr napísaných, potom nechajte chvíľu povariť, potom si ich aspoň raz prečítate na plagáte, kým stlačíte „post“? (Tento bol.)

Vidíme to už teraz. Mnohí žiaci, ktorí ukončili základnú školu s „dobrými známkami“, dosahujú mimoriadne zlé výsledky v testoch určených na nájdenie žiakov s dyslexiou alebo problémami s používaním jazyka. Toto ešte predtým, ako na scénu vstúpili generatívne AI a LLM. Obávam sa, že urýchlia už sa vyskytujúci problém.

Schopnosť vyjadrovať sa musí byť trénovaná. Bez tréningu sa k ničomu nedostanete. Niektorí by mohli mať na niečo lepšie nadanie, ale stále potrebujú tréning. Keď som bol dieťa, povzbudzovali ma, aby som si písal do denníka. Musel som o niečom napísať príbeh a nabádal ma k fanfikcii (niekde mám ešte tú fanfikciu Čarodejníka z krajiny Oz, ktorú som napísal v piatej triede). V škole sme boli nútení mať kamarátov na jeden semester v treťom alebo štvrtom ročníku, kde nám škola dávala obálky a poštovné posielať listy našim kamarátom (ktorých nám tiež pomohli nájsť, ak nepoznáme niekoho, kto by mal korešpondenciu s).

Dnes má znudené dieťa prístup k toľkému obsahu, pričom za mesiac sa vyprodukuje oveľa viac, ako dokáže spotrebovať za celý život. Už len hľadanie pútavého obsahu môže byť pre nich časovo náročná úloha a kvalita sa potom nesleduje.

Keď som vyrástol, mal som v televízii jednu hodinu programovania pre deti denne, kým som nedostal káblovku a tri kanály, ktoré mali programy pre deti, ju poslali približne v rovnakom čase dňa. Získavanie informácií znamenalo ísť pešo do knižnice, kde som trávil väčšinu popoludní.

Teraz otvoríte svoj telefón a hoci je to úžasný nástroj, je to dvojčepelový meč. Pamätám si veľa času, keď som sa ako dieťa „nudil“, čakal som na večeru, niekam som išiel atď. Teraz väčšina detí, ktoré vidím, nemá čas sa nudiť.

Som učiteľ na strednej škole (nie v jazyku, ale v prírodovedných a technických predmetoch) a takéto návrhy sú škodlivé pre proces učenia.

Aby bol niekto v niečom dobrý, musí robiť veci, v ktorých chce byť dobrý. Takže ak chcete, aby bol študent v niečom dobrý pre váš záverečný test, musí to urobiť niekoľkokrát predtým. Ak oni len sa nauč písať budú mať prístup ku generatívnym AI založeným na LLM len byť dobrý v písaní a zároveň mať prístup k týmto nástrojom. Nemôžete očakávať, že cyklista bude dobrý na Tour vo Francúzsku, ak jediné, čo mu dáte, je motorka počas tréningu.

Tiež to, že všetko vložíte do záverečného testu vysoké stávky a výskum ukazuje, že testy s vysokými stávkami majú svoje problémy a nevýhody. Niektorí študenti v nich dosahujú mimoriadne slabé výsledky, zatiaľ čo v iných situáciách sú celkom schopní.

Viem, že v niektorých školských systémoch sa používajú záverečné testy a väčšina známok závisí od toho. Nie som učiteľ v USA (alebo v anglicky hovoriacej krajine, keď na to príde) a zatiaľ čo máme kurz testy, národné testy alebo „záverečné“ testy, takmer všetko, čo v tom čase testujeme, bolo raz testované predtým. V mojej škole máme neformálne pravidlo, ktoré hovorí, že všetko by sme mali otestovať aspoň dvakrát.

Čo ak sa študent nenaučil písať a len sa naučil ovládať počítačový program (bez toho, aby skutočne pochopil, čo „napísali“)? Mali by sme ich zlyhať?

Ak je zmyslom školy niečo sa naučiť a študenti to neurobili, potom je tento prístup IMHO neúspešný.

Toto! A zašiel by som ešte o krok ďalej, je to plagiát, aj keď ho používate výstup AI, nielen tréningové údaje.

Ako učiteľ som to povedal niekoľkokrát na našich školských stretnutiach. Okamžité použitie generatívnej AI a použitie výstupného textu je plagiát. Vy ste ten text nenapísali. Niekto (alebo niečo) to urobil. Nemôžete si za to pripisovať zásluhy. Ak nástroj vytvára niečo ako celok, nemôžete tvrdiť, že ste tvorcom iba stlačením tlačidla.

Používate citácie na posilnenie textu, nie na strihanie množstva úryvkov z iných textov a vytváranie niečoho „nového“. To nie je originálne, to je možno prinajlepšom odvodené zhrnutie. Na jednej z mojich tried musím skontrolovať veľa záverečných prác (niečo ako mini-tézy) a študenti sú bezcenní, pokiaľ ide o používanie úvodzoviek. Tvrdia veci bez toho, aby to zálohovali, hovoria veci, ktoré zjavne nepochádzajú od nich, a zabúdajú ukázať zdroje, ktoré majú.

Problém je v tom, že ak prenecháme všetko nudné učenie a bežné úlohy na stroje, dostaneme len veľmi málo týchto informovaných ľudí. Myslím tým, prečo by ste sa mali nudiť, keď konečný výsledok môže urobiť za vás stroj? Preto si myslím, že prichádzame do bodu, keď sa musíme učiť, aby sme sa učili, len aby sme držali krok s nástrojmi, ktoré používame.

Budú sa AI vyvíjať? Určite. Príde deň, keď blázon + AI porazí bežného človeka alebo dokonca odborníka? Možno. Ale ak ten deň príde, predpovedám, že veľmi skoro potom ten blázon už nebude potrebný a AI to urobí úplne sama. Čo sa stane potom, je nad moje schopnosti analyzovať.

Generatívna AI dokonale zapadá do našej novej reality Post-Truth.

Vychutnajte si CELÉ spektrum večne-in-limbo to-znie-správne-ale-je-to-vlastne čokoľvek-mohlo-byť-možné-ak-chcete-veľmi-dosť, explózie príbehov. Plne prispôsobiteľné, rozkošne pochybné, epistemicky jedovaté, dokonca aj nesprávne.

Vytvárame nové informačné prostredie a možno zistíme, že podvodníci a tromfy tohto sveta sú najlepšie vybavení na to, aby ho formovali a ovládali.

Vtipné, „chcel by som šálku pavúkov“ je presne ten druh šialenstva, ktorý by som čakal, že napíše generatívna AI, ale predpokladám, že toto pole už pokročilo.

Bez ohľadu na to je pre mňa mätúce, že ľudia očakávajú, že bude možné spoľahlivo odhaliť text generovaný AI. Ak systém dokáže identifikovať „tell“, prečo by sa ten istý systém nemohol použiť na jeho odstránenie? Ak máte informácie na to, aby ste zistili, že niečo nie je v poriadku, nemáte dostatok informácií aj na to, aby ste to napravili?

Iste, existujú chyby opomenutia, ako aj provízie, ale zdá sa nelogické predpokladať, že existujú nejaké neodstrániteľné chyby generatívnej AI.

V priemere ľudský pisateľ nie je vždy konzistentný, to znamená, že niekedy napíše niečo s nízkou zmätenosťou, inokedy vysoko a (dôležité) v tom istom texte.

The priemer zo všetkých ľudských textov však bude málo komplikovaný, pretože „šálka pavúkov“ bude v celkovom korpuse podávaná ako tréningové údaje oveľa menej častá ako „šálka vody/kávy/čaju“. Keďže generatívna AI sa vždy pokúsi použiť štatistický priemer z trénovacích údajov, výstupný text bude vo svojej celistvosti málo komplikovaný.

Ako sa hovorí v článku, môže človek napísať celý text s nízkou zložitosťou? Áno. Pri niektorých textoch sa to uprednostňuje.

Kritériá „nízkeho praskania a nízkej zložitosti“ znejú ako „nudný a neoriginálny štýl“, čo by pokryli napríklad aj mnohé učebnice, nehovoriac o množstve stredne pokročilých, ale uspokojivých študentov eseje.

Pavúky sa merajú v gramoch, nie v pohároch.

Snáď najobdivuhodnejšou vecou na Jamesovi Madisonovi bolo, že odmietol pripísať zásluhy za napísanie ústavy Spojených štátov, trvá na tom, že hoci on vypracoval dôležitý historický dokument, bol to súbor niekoľkých ďalších myšlienok a presvedčení demokraciu.

Ako člen Výboru pre štýl bol do veľkej miery zodpovedný za konečné znenie ústavy.

Okrem toho, že je jednoducho napísaná štýlom, ktorý už nie je hovorový, náhodou si myslím, že Ústava je len zle napísaná a mätúca. Druhý pozmeňujúci a doplňujúci návrh je možno najlepší (alebo najhorší) príklad, ale celá vec sa vyznačuje tupým a komplikovaným písaním na vyjadrenie jednoduchých pojmov, ktoré mali byť napísané jasnejšie.

Mám s tým len jeden problém. Moja sestra má dysgrafiu. Horšie sa ukáže, ak je požiadaná, aby napísala niečo čo i len trochu zložité v krátkom čase, hoci by sa to prejavilo aj v jej dlhších dielach. Doslova nevidí svoje chyby – ak by ste ju požiadali, aby vám prečítala text späť, prečítala by ho tak, ako to myslela, a tvrdila by, že mal napisal to tak.

Aby som jej pomohol s prácou na univerzite, urobil by som kontrolu pravopisu a gramatiky a pomohol by som jej trochu upraviť, aby mohla vyjsť najavo jasnosť jej myšlienok - v podstate slúži ako a korektor. Nedotkol som sa jej myšlienok, ani jej téz ani podporných dôkazov. Čiastočným dôvodom, prečo som to robil, bolo to, že jej profesor doslova dal D na papier s "Môžem povedať, že si sa naučil látku, ale tvoje písanie je hrozné." In v prípade, ktorý navrhujete, by bola v nevýhode, pretože by nemohla nechať niekoho, kto by sa pozrel na jej prácu, pretože prvá ukážka by bola, že pod tlakom napíše, že je najhoršia pri. Tiež by ma zaujímalo, či by to znevýhodnilo aj nepôvodných spisovateľov.

EDIT: Je zrejmé, že som nový a nástroj na tvorbu cenových ponúk nefungoval tak dobre, ako som dúfal. Toto je odpoveď na príspevok ModestoBorn.

Ako vývojár softvéru som začal používať LLM na pomoc pri písaní jednoduchých sekcií kódu, ktorých zostavenie by mi inak zabralo čas. Toto je výhoda, ale funguje to aj preto, že mám dostatok skúseností na to, aby som pochopil, kedy to dáva nesprávnu odpoveď, a ako to opraviť. Ako to pomôže vstupnému programátorovi naučiť sa programovať, pretože súčasťou zručnosti je zlyhanie, analýza, oprava, ako aj návrh.

Takže vidím budúcnosť, kde sa hodnotenie vzdelania bude vo veľkej miere spoliehať na ústne - podobne ako mnohé vivas pre magisterské / doktorandské štúdium.

Myslím si, že používanie ústavy na testovanie je trochu chybné.
Ignorovanie toho, že bol použitý ako zdrojový vstup... Nepísala to osoba, ale komisia.
Zdá sa mi, že to pravdepodobne normalizuje reč rovnakým spôsobom ako spracovanie AI.

„Môžem hovoriť z pohľadu pedagóga pracujúceho s AI a povedať, že odteraz je písanie AI nezistiteľné a pravdepodobne to tak aj zostane, detektory AI majú vysokú mieru falošne pozitívnych výsledkov a nemali by sa používať ako výsledok."

Zápletka, cestovatelia v čase použili AI na napísanie ústavy. Ukázalo sa, že to bolo nakoniec správne.

Je zábavné trestať ľudí za veci, ktoré im robili ako deťom.

Závisí. Meriame hmotnosť alebo objem?

To je argument slameného muža! Rovnako sa mohlo stať, že niekto z okolia teraz cestoval späť v čase a vzal so sebou prenosné nastavenie ChatCPT a pomohol Madison pri písaní ústavy. /s

Najnovší blogový príspevok

Členovia, ktorí reagovali na správu #5322
September 27, 2023

fóraArs LykaionKrabička na mydloThe Twitter FolliesPoužívate zastaraný prehliadač. Nemusí správne zobraziť túto alebo iné webové stránky.Mali by st...

<em>Alan Wake 2</em> a smrť diskových videohier
September 27, 2023

Tvrdil by som, že k tejto zmene došlo väčšinou pred niekoľkými rokmi. Väčšina nových PC dnes nemá ani CD mechaniku. V podstate išli cestou diskety....

Ako Bill Gates <em>Hľadanie mín</em> závislosť pomohla viesť k Xboxu
October 09, 2023

Dobre, priznávam. Pri Hľadaní mín som stratil najmenej 100 hodín svojho života a uľavilo sa mi, keď ho MS prestal dávať na Windows….Cítim náhle nut...