מדוע גלאי AI חושבים שהחוקה האמריקאית נכתבה על ידי AI

האם הכלים האלה שימושיים מבחינה הוליסטית היא שיחה אחרת לגמרי. אם שיעור השגיאות הוא 10% בערך, כפי שנראה שהמאמר מציע, אז אני טוען שהם עדיין מספקים ערך מסוים למחנכים.

עד שה-AI יבין מה הוא כותב בפועל, אני מתנגד ברעיון שא טוֹב מתרחשים תסריט מפרט טלוויזיה/סרט, עם ערכות נושא, שיחות חוזרות ופיתוח דמויות. ההתקדמות שהייתה לנו בתחום הבינה המלאכותית לא בונה הבנה, וחוקרים רציניים לא מצפים ש-LLM יהיה אי פעם מבין - זה לא מה שמודל הבינה המלאכותית עושה.

אבל כן, זה שונה במיוחד מהמערכת הנוכחית לטלוויזיה. שינויים עצומים בתהליך כתיבת פרק שמתאים למקום ספציפי בעונה, המוחרפים על ידי רגישויות מודרניות כלפי הצגת תוכן בסידרה עם קשתות ארוכות העונה. הוא מבטל את מאמצי שיתוף הפעולה הקיימים כיום, ומטבעו של הבינה המלאכותית הנמצאת כיום בשימוש, יעדיף יותר חוק, חוויה נוסחתית של תוכן עצמאי על פני סיפור סיפורים מורכב לטווח ארוך שהניע את נוף הטלוויזיה לאחרונה שנים.

עכבישים נמדדים בגרמים ולא בכוסות.

עכבישים נמדדים בגרמים ולא בכוסות.

איזה מהבאים נכתב על ידי AI?

1) כשהייתי ילד, המשפחה שלי ואני הלכנו לים ליום כיף בשמש. שיחקנו בחול והתיזנו במים, נהנינו מכל רגע. כשהיום הגיע לסיומו, הבחנתי בכלב משוטט עצוב למראה משוטט לאורך קו החוף. לא יכולתי לסבול להשאיר אותו מאחור, אז ניגשתי אליו בזהירות. למרבה ההפתעה, הכלב קיבל את פני המגע שלי וחבט ביד שלי, מחפש נחמה. התחננתי בפני ההורים שלי להביא את הכלב הביתה, והבטחתי לטפל בו. אבל ההורים שלי אמרו שלא, זה יכול להיות חולה או מלא פרעושים וכו'. התחננתי ובכיתי אבל הם עמדו איתן. למדתי באותו יום שלמרות שאדם יכול לראות דבר אחד כיקר ובריא, אדם אחר יכול לראות כלא ערך.

2) יום אחד בפארק, הייתי על סט הנדנדות, ממריא באוויר. אבל בתקלה פתאומית, איבדתי את אחיזתי ונפלתי למטה. כאב חד עלה בזרועי, ודמעות החלו לזלוג על פניי. הכאב הרגיש בלתי נסבל, ואחזתי בזרועי הפגועה. גיליתי מאוחר יותר שהוא שבור. באותו רגע, הבנתי את השבריריות של הגוף שלי ואת אי הנוחות העצומה שיכולה להתלוות לתאונות. השתוקקתי להקלה על הכאב, בתקווה שהוא ישכך במהרה, שמשהו יגרום לזה להיפסק. אבל זה המשיך. אני זוכר את הכאב הזה עד היום.

3) אני זוכר את היום שבו סוף סוף אזרתי את האומץ לספר לקראש שלי מה הרגשתי כלפיה. החרדה המסעירה, דופק הלב, הציפייה שאין כמותה. ואז הגיע רגע האמת, וסיפרתי לה מה הרגשתי. הזמן הרגיש כאילו הוא עצר. רק אז לזוז מהר מדי פעם נוספת כשהיא אמרה שהיא לא מרגישה אותו הדבר. לעולם לא אשכח את התערובת הזו של עצב ואכזבה.

הרבה כתיבה נובעת מהיכרות עם סוגי כתיבה שונים. הרבה סטודנטים היום לא קוראים כמעט כמו סטודנטים בצמד הדורות האחרונים. יש להם מעט מאוד חושים לשימוש בשפה, מכיוון שהם היו נתונים לסוגים שונים מאוד של כתיבה מאשר למשל אלה שצמחו לפני האינטרנט.

כנער קראתי יותר ספרים ומאמרים ממה שרוב תלמידיי הנוכחיים כנראה יעשו במשך כל חייהם. מצד שני, הם קראו יותר הצהרות קצרות של משפט אחד עם דקדוק גרוע וזה לא משאיר מחשבה שלאחר מכן, ממה שאי פעם אקרא! אז באיזה סוג כתיבה אתה חושב שהם מצטיינים?

כמה פוסטים בפורומים כאלה הם יותר מכמה פסקאות? וכמה לדעתך נכתבו תחילה, ואז נותנים להתבשל לזמן מה, ואז לקרוא על ידי הפוסטר לפחות פעם אחת לפני שתלחץ על "פוסט"? (זה היה.)

אנחנו כבר רואים את זה עכשיו. תלמידים רבים שיצאו מבית הספר היסודי עם "ציונים טובים" מקבלים ציון נמוך ביותר במבחנים שנועדו למצוא תלמידים עם דיסלקציה או בעיות בשימוש בשפה. זאת לפני שנכנסו מכשירי AI ו-LLM לזירה. אני חושש שהם יאיץ בעיה שכבר מתרחשת.

יש לאמן את היכולת לבטא את עצמך. אתה לא מצליח בכלום בלי הכשרה. לחלקם אולי יש כישרון טוב יותר למשהו, אבל עדיין הם צריכים הכשרה. כשהייתי ילד, עודדו אותי לכתוב ביומן. הייתי צריך לכתוב סיפור על משהו ועודדתי לעשות ספרות מעריצים (איפשהו עדיין יש לי את הפאנפיק הזה של הקוסם מארץ עוץ שכתבתי בכיתה ה'). בבית הספר נאלצנו להחזיק חברים לעט לסמסטר בכיתה ג' או ד' שבו בית הספר נתן לנו מעטפות ודואר לשלוח את המכתבים לחברים שלנו לעט (שהם גם עזרו לנו למצוא אם אנחנו לא מכירים מישהו שיש לו התכתבות עם).

כיום, לילד משועמם יש גישה לכל כך הרבה תוכן, הרבה יותר מיוצר בחודש ממה שהוא יכול לצרוך אי פעם בחיים. רק מציאת תוכן מושך יכולה להיות משימה שגוזלת זמן עבורם, ואז האיכות לא מפוקחת.

כשגדלתי הייתה לי שעה אחת של תוכניות ילדים בטלוויזיה ביום עד שקיבלתי כבלים ושלושת הערוצים שהיו להם תוכניות לילדים שלחו את זה בערך באותה שעה ביום. קבלת מידע נועד ללכת אל הספרייה שבה ביליתי את רוב שעות אחר הצהריים שלי.

כעת, אתה פותח את הטלפון שלך, ולמרות שהוא כלי נפלא, זו חרב דו-להבים. אני זוכר הרבה "משעמם-זמן" בתור ילד, מחכה לארוחת ערב, הולך לאנשהו וכו'. עכשיו, לרוב הילדים שאני רואה אין זמן להשתעמם.

אני מורה בבית ספר תיכון (לא בשפה אלא במקצועות מדעיים וטכניים) ומצאתי שהצעה מזיקה לתהליך הלמידה.

כדי שמישהו יהיה טוב במשהו האדם הזה צריך לעשות את הדברים שהוא רוצה להיות טוב בהם. אז אם אתה רוצה שהתלמיד יהיה טוב במשהו למבחן הסופי שלך, הם צריכים לעשות זאת, מספר פעמים לפני כן. אם הם רק ללמוד לכתוב בעוד שיש להם גישה ל-AIs גנרטיביים המבוססים על LLMs, הם יהיו להיות טוב רק בכתיבה תוך גישה לכלים אלה. אתה לא יכול לצפות מרוכב האופניים להיות טוב בטור צרפת אם הדבר היחיד שאתה נותן להם הוא אופנוע במהלך האימון.

כמו כן, הכנסת הכל למבחן סופי עושה את זה סיכון גבוה והמחקר מראה שלמבחנים עם סיכון גבוה יש את הבעיות והחסרונות שלהם. חלק מהתלמידים מתפקדים בצורה גרועה ביותר בזמן שהם מסוגלים למדי במצבים אחרים.

אני יודע שבכמה מערכות בית ספר, מבחני גמר הם מה שאתה משתמש ורוב הציונים תלויים. אני לא מורה בארה"ב (או מדינה דוברת אנגלית לצורך העניין) ולמרות שיש לנו קורס מבחנים, מבחנים ארציים או מבחנים "סופיים", כמעט כל מה שאנו בודקים בשלב זה נבדק פעם אחת לפני. בבית הספר שלי יש לנו כלל לא פורמלי שאומר שצריך לבדוק הכל לפחות פעמיים.

מה אם התלמיד לא למד לכתוב ורק למד לנהל תוכנת מחשב (מבלי להבין בעצם מה "הם כתבו")? האם עלינו להכשיל אותם?

אם מטרת בית הספר היא ללמוד משהו והתלמידים לא למדו, אז הגישה הזו היא כישלון IMHO.

זֶה! והייתי הולך אפילו צעד אחד קדימה, זה גניבת עין אפילו כשאתה משתמש ב פלט של ה-AI, לא רק נתוני האימון.

כמורה, אמרתי את זה כמה פעמים בישיבות בית הספר שלנו. עצם השימוש ב-AI מחולל מיד ושימוש בטקסט הפלט הוא גניבת דעת. לא כתבת את הטקסט הזה. מישהו (או משהו) אחר עשה זאת. אתה לא יכול לקחת קרדיט על זה. אם כלי מייצר משהו בשלמותו, אינך יכול לטעון שאתה היוצר רק על ידי לחיצה על כפתור.

אתה משתמש במירכאות כדי לחזק את הטקסט שלך, לא לחתוך הרבה קטעים מטקסטים אחרים וליצור משהו "חדש". זה לא מקורי, זה אולי סיכום נגזר במקרה הטוב. באחת השיעורים שלי אני צריך לסקור הרבה עבודות גמר (כמו מיני-תזה) והתלמידים חסרי ערך בכל הנוגע לשימוש במירכאות. הם טוענים דברים בלי לגבות אותם, הם אומרים דברים שכמובן לא מקורם בהם, והם שוכחים להראות את המקורות שיש להם.

הצרה היא שאם נשאיר את כל הלמידה המשעממת ומשימות השגרה למכונות, נקבל מעט מאוד מבני האדם בעלי הידע הללו. כלומר, למה שתעשה למידה משעממת כשהמכונה יכולה לעשות עבורך את התוצאה הסופית? אז בגלל זה אני חושב שאנחנו מגיעים לנקודה שבה אנחנו צריכים ללמוד למען הלמידה, רק כדי לעמוד בקצב של הכלים שבהם אנחנו משתמשים.

האם ה-AIs יתפתחו? בוודאות. האם יבוא יום שבו טיפש + AI ינצח אדם רגיל או אפילו מומחה? אוּלַי. אבל אם היום הזה יגיע, אני צופה שזמן קצר אחר כך כבר לא יהיה צורך בטיפש וה-AI יעשה את זה לבד. מה שקורה אחרי זה מעבר ליכולתי לנתח.

AI גנרטיבי מתאים באופן מושלם למציאות הפוסט-אמת החדשה שלנו.

תיהנו מכל הספקטרום של כל הזמן בלימבו זה-נשמע-נכון-אבל האם-זה-בעצם-כל דבר-יכול להיות-אפשרי-אם-אתה-רוצה-זה-מספיק, פיצוץ נרטיבים. ניתן להתאמה אישית מלאה, מפוקפק להפליא, רעיל מבחינה אפיסטמית, אפילו לא טעות.

אנחנו יוצרים נוף מידע חדש, ואולי נגלה שהרמאים והטראמפים של העולם הזה מצוידים בצורה הטובה ביותר לעצב ולנווט אותו.

מצחיק, "הייתי רוצה כוס עכבישים" הוא בדיוק סוג הטירוף שהייתי מצפה מ-AI יצירתי לכתוב, אבל אני מניח שהתחום התקדם מעבר לזה.

בלי קשר, זה מפתיע אותי שאנשים מצפים שיהיה אפשר לזהות באופן אמין טקסט שנוצר בינה מלאכותית. אם מערכת יכולה לזהות 'ספר', מדוע לא ניתן היה להשתמש באותה מערכת כדי להסיר אותו? אם יש לך את המידע כדי לקבוע שמשהו לא בסדר, האם אין לך גם מספיק מידע כדי לתקן אותו?

בטח, יש שגיאות של השמטה כמו גם עמלה, אבל זה נראה לא הגיוני להניח שיש פגמים מטבעם בלתי ניתנים להסרה בבינה מלאכותית.

בממוצע סופר אנושי לא תמיד עקבי, כלומר לפעמים הם כותבים משהו עם תמיהה נמוכה, לפעמים גבוהה, ו(חשוב) באותו טקסט.

ה מְמוּצָע עם זאת, מכל הטקסטים האנושיים, יהיה תמיהה נמוכה מכיוון ש"כוס העכבישים" יהיה הרבה פחות נפוץ מ"כוס המים/קפה/תה" בכל הקורפוס המוזן כנתוני אימון. מכיוון שה-AI הגנרטיבי תמיד ינסה להשתמש בממוצע הסטטיסטי מנתוני האימון, ולכן טקסט הפלט יהיה מבולבל בשלמותו.

כפי שאומר המאמר, האם אדם יכול לכתוב טקסט שלם עם תמיהה נמוכה? כן. עבור טקסטים מסוימים זה מועדף.

הקריטריונים של "תפוצצות נמוכה ותמיהה נמוכה" נשמעים כמו "סגנון משעמם ולא מקורי", אשר יכסה גם ספרי לימוד רבים, למשל, שלא לדבר על הרבה תלמידים בינוניים אך מספקים חיבורים.

עכבישים נמדדים בגרמים ולא בכוסות.

אולי הדבר הכי ראוי להערצה בג'יימס מדיסון היה שהוא סירב לקחת קרדיט על כתיבת חוקת ארצות הברית, מתעקש שלמרות שהוא ניסח את המסמך ההיסטורי החשוב, זה היה אוסף של כמה רעיונות ואמונות אחרות על דֵמוֹקרָטִיָה.

כחבר בוועדת הסגנון, הוא היה אחראי במידה רבה על הנוסח הסופי של החוקה.

בנוסף לכך שפשוט נכתב בסגנון שהוא כבר לא דיבור, אני חושב שהחוקה פשוט כתובה בצורה גרועה ומבלבלת לאורך כל הדרך. התיקון השני הוא אולי הדוגמה הטובה (או הגרועה), אבל כל העניין מאופיין בכתיבה קהה ומסובכת כדי לבטא מושגים פשוטים שהיו צריכים להיכתב בצורה ברורה יותר.

יש לי רק בעיה אחת עם זה. לאחותי יש דיסגרפיה. זה מופיע גרוע יותר אם היא מתבקשת לכתוב משהו אפילו מעט מורכב תוך פרק זמן קצר, אם כי זה יופיע גם בעבודות הארוכות שלה. היא ממש לא יכולה לראות את השגיאות שלה -- אם היית מבקש ממנה לקרוא לך את הטקסט בחזרה, היא הייתה קוראת אותו בחזרה כפי שהיא התכוונה אליו ותטען שהיא היה כתב את זה ככה.

כדי לעזור לה לעבור את הקורסים שלה באוניברסיטה, הייתי עושה בדיקות איות ודקדוק ועוזר לה לשנות מעט כדי שהבהירות של הרעיונות שלה תוכל לצאת החוצה -- בעצם, לשמש כ מַגִיהַ. לא נגעתי ברעיונות שלה או בתזה שלה או בראיות התומכות שלה. חלק מהסיבה שעשיתי את זה הייתה בגלל שהיא ממש ביקשה מפרופסור לתת לה ד' על נייר עם "אני יכול להגיד שלמדת את החומר אבל הכתיבה שלך נוראית". ב במקרה שאתה מציע, היא תהיה בעמדת נחיתות מכיוון שהיא לא יכולה לגרום למישהו להסתכל על העבודה שלה כי הדוגמה הראשונה תהיה שתחת לחץ כותבת שהיא הכי גרועה בְּ. אני גם תוהה אם זה יפגע גם בסופרים שאינם ילידי הארץ.

עריכה: ברור שאני חדש, וכלי הצעת המחיר לא עבד כמו שקיוויתי. זה בתגובה לפוסט של ModestoBorn.

כמפתח תוכנה התחלתי להשתמש ב-LLMs כדי לסייע בכתיבת קטעי קוד פשוטים שאחרת ייקח לי זמן להרכיב. זה היתרון, אבל זה גם עובד כי יש לי מספיק ניסיון כדי להבין מתי זה נותן תשובה שגויה וגם איך לתקן את זה. איך זה עוזר למתכנת הכניסה ללמוד תכנות מכיוון שחלק מהמיומנות היא בכשל, בניתוח, בתיקון וגם בעיצוב.

אז אני יכול לראות עתיד שבו הערכה חינוכית מסתמכת במידה רבה על בעל פה - בדומה לוויות רבות לתואר שני/דוקטורט.

אני חושב שהשימוש בחוקה כדי לבדוק הוא די פגום.
מתעלם מכך שהוא שימש כקלט מקור... זה לא נכתב על ידי אדם, אלא על ידי ועדה.
נראה לי שזה עשוי לנרמל את הדיבור באותו אופן שבו עיבוד AI היה עושה זאת.

"אני יכול לדבר מנקודת המבט של מחנך שעובד עם בינה מלאכותית כדי לומר שנכון לעכשיו, כתיבת בינה מלאכותית היא לא ניתן לזיהוי וסביר שיישאר כך, לגלאי בינה מלאכותית יש שיעור חיובי שגוי גבוה, ואין להשתמש בהם כ תוצאה."

טוויסט בעלילה, נוסעים בזמן השתמשו בבינה מלאכותית כדי לכתוב את החוקה. מסתבר שזה היה נכון אחרי הכל.

כיף להעניש אנשים על דברים שנעשו להם בילדותם.

תלוי. האם אנו מודדים מסה או נפח?

זה טיעון איש קש! באותה מידה יכול היה להיות שמישהו מהסביבה נסע אחורה בזמן ולקח עמו מערכת ChatCPT ניידת וסייע למדיסון בכתיבת החוקה. /s

ההודעה האחרונה בבלוג

סטארפילד, איך זה שלא שמעתי על זה קודם?
September 25, 2023

רק בעוד כשבוע, אם השמועות נכונות, בת'סדה הולכת להכריז על משחק עולם פתוח עם נושא מדע בדיוני. ממה שהבנתי, זו שמועה מבוססת למדי, אבל תהיתי אם יש לכם י...

הכלים/תרגול הטובים ביותר לפריסת חתימת דוא"ל סטנדרטית
September 25, 2023

פורומיםמערכות הפעלה ותוכנהWindows Technical Mojoהכלים/תרגול הטובים ביותר לפריסת חתימת דוא"ל סטנדרטיתאתה משתמש בדפדפן לא מעודכן. ייתכן שהוא לא יציג ...

מחפש את הדבר הקרוב ביותר ל-Jamf MDM for Windows `
October 06, 2023

פרסתי את Jamf לפני כמה חודשים כדי לייעל את ההטמעה והניהול של מחשבי אפל וזה קיצץ את זמן ההתקנה שלנו ביותר מחצי. כעת אני מנסה למצוא פתרון MDM כדי להא...