Почему детекторы ИИ считают, что Конституция США была написана ИИ

Джордан83 сказал:

Все три.

Нажмите, чтобы развернуть...
Ну, поскольку ОП так и не ответил, вот ответ:

1) ИИ сгенерировал, но концовку удалил и написал вручную.

2) Полностью создан искусственным интеллектом, но отредактирован с удалением некоторых частей. Опечатка была создана ИИ.

3) Полностью человечное письмо.

Итак, спасибо за то, что высказали мою точку зрения. Я полагаю, что люди на самом деле не могут сказать.

Безумный клингон сказал:

Возможно ли, что я играл слишком много ролевых игр?

Нажмите, чтобы развернуть...
Нет, это не так.
Траблмэн сказал:
... и Библия
Посмотреть вложение 59185
Нажмите, чтобы развернуть...
Эти истории в Библии могли быть правдой, и те, кто был свидетелем событий, понимали их. Но поставлено путешественниками во времени из того, что все еще является нашим будущим. Путешествие во времени само по себе адекватно объясняет заявленное Иисусом воскресение. Солнце стояло неподвижно, пока Моисей поднял свой посох? Просто путешествие во времени с большой областью действия. Непонятно, как они слили воду из Красного моря. Я думаю, они могли бы построить плотину, а затем снести ее после того, как израильтяне перешли ее. Бомбёжка Содома и Гоморры? Это можно сделать с помощью технологий 1940-х годов. Просто нужно отправить туда самолеты и сказать им, что в городах Ближнего Востока полно нацистов. Что могло бы быть, если бы у нацистов из будущего тоже были путешествия во времени.

Если подумать, поцарапать плотину. Используйте свое устройство для путешествий во времени, чтобы переместить воду из Красного моря в еще более древнюю Месопотамию, чтобы вызвать Ноев потоп, но предупредите его, чтобы у него было время построить лодку.

Смысл отправки Конституции детектору ИИ заключается в том, что вы утверждаете, что написали текст. Детекторы явно не «верят», что вы это сделали. (А в классе копирование или плагиат текста будет рассматриваться примерно так же строго, как и использование текста, созданного ИИ.)

Гецио сказал:
Ну, поскольку ОП так и не ответил, вот ответ:

1) ИИ сгенерировал, но концовку удалил и написал вручную.

2) Полностью создан искусственным интеллектом, но отредактирован с удалением некоторых частей. Опечатка была создана ИИ.

3) Полностью человечное письмо.

Итак, спасибо за то, что высказали мою точку зрения. Я полагаю, что люди на самом деле не могут сказать.

Нажмите, чтобы развернуть...

ржу не могу

Честно говоря, я просмотрел ваш пост, критически обдумал его около 0,02 секунды, нажал «Ответить» и напечатал свой ответ. Это был настоящий огонь от бедра. И два из трёх получил правильно.

Так что, пожалуйста, я думаю?

Различные детекторы записи ИИ используют немного разные методы обнаружения, но имеют схожую предпосылку: существует модель ИИ, обученная на большом массиве данных. основной текст (состоящий из миллионов примеров написания) и набор предполагаемых правил, определяющих, будет ли текст скорее человеческим или Сгенерировано ИИ.

Нажмите, чтобы развернуть...
Неудивительно, что это не работает, их базовая предпосылка совершенно неверна.

LLM сложны. Они не изучают «средний» стиль всех людей, они изучают множество стилей. Они управляемы.

Вот тот же текст, предположительно в стиле Р.Р.Мартина:

В обширной сфере ИИ-детекторов, пишущих под ИИ, под тканью обнаружения сходятся различные методологии, каждая из которых имеет свои таинственные жилки, но объединена общей предпосылкой. Взгляните на ИИ-гиганта, тщательно вылепленного в результате тщательных тренировок на основе тайны огромного объема слов, выкованной из бесчисленных томов, гобелена из миллионов письменных примеров. И вот, загадочный кодекс предполагаемых правил танцует в загадочных пределах ИИ, служа арбитр, расшифровывающий происхождение представленных слов, разгадывающий истину, сокрытую в их линии. Смогут ли они раскрыть квинтэссенцию человеческого мастерства или же будут нести на себе отпечаток нечестивой искусственности, имитирующей его? Только детектор знает.

Нажмите, чтобы развернуть...
Мне надоело просматривать комментарии, поэтому я не знаю, упоминалось ли об этом, но даже создание инструмента для выявления плагиата (игнорируя возможность помощи ИИ) может оказаться очень вредным.

Учти это:

Допустим, у вас есть урок, посвященный Гамлету, и вам нужно написать по нему эссе на 1000 слов.

Хотя возможные ответы могут показаться бесконечными, на самом деле они очень ограничены. Более того, существует еще меньший набор комбинаций предложений, которые можно считать проходным баллом. Со временем все больше и больше студентов пишут эссе на одну и ту же тему, и все больше и больше возможных словосочетаний становятся неактуальными. будет «израсходовано», и будет все труднее придумать эссе, которое не будет считаться правильным. копипаста. Что еще хуже, для такого известного произведения, как «Гамлет», и, учитывая, как долго существует эта работа, количество написанных о ней эссе уже значительно. Каждый год у нас появляется еще одна возрастная группа студентов, пишущих такие эссе. В результате количество возможных написанных «оригинальных» эссе становится все меньше и меньше. Это тот случай, когда не хватает оригинальных вещей, которые можно сказать/написать.

Честно говоря, мне кажется, что мы уже давно прошли тот момент, когда эссе о Гамлете могло быть одновременно «оригинальным» и получить проходной балл, если сравнивать его буквально с каждым когда-либо написанным эссе.

Единственным возможным спасением была бы эволюция языка и изобретение как новых слов, так и новых значений слов, которые могли бы увеличить предел возможных комбинаций. Даже в этом случае я чувствую, что вы упретесь в стену, особенно если вы заставите детектор плагиата заменять все возможные слова или фразы одинаковым значением в процессе обнаружения. Таким образом, два предложения, идентичные за исключением замены синонимов, все равно будут считаться плагиатом.

Однажды мне сказали изучить и написать о конкретной стране для классного задания. Это было еще до того, как появился Интернет. Моим единственным реальным ресурсом была энциклопедия, и имевшаяся в ней информация состояла всего из четырех коротких абзацев. Насколько я помню, темой была Исландия. Я скопировал энциклопедию почти слово в слово, потому что у меня просто не было особого выбора. Я менял местами все, что мог, не теряя при этом смысла и не делая его фактическим. ошибаюсь, но нужно быть идиотом, чтобы не знать, что я, по сути, просто скопировал то, что было в энциклопедия. Независимо от того, насколько вы талантливы, если единственная информация о стране, к которой вы можете получить доступ, составляет всего лишь несколько абзацев, ваше эссе будет очень похоже на то, что написал бы кто-то другой. Это особенно верно, если вы ограничены изложением фактов по теме.

Как бы то ни было, мое эссе получило проходной балл, но я могу вас заверить, что оно не было пятеркой или 100%, хотя моя грамматика была идеальной. Причина в том, что я не мог превратить менее одной страницы фактической информации в две страницы, независимо от того, насколько творческим я хотел быть. Напоминаем, что в то время Интернета еще не было, и единственная библиотека, рассчитанная примерно на 2 часа в любом направлении, была размером со средний класс. Даже тогда мои родители были слишком заняты, чтобы даже отвести меня в библиотеку. Мне повезло, что бабушка раньше купила мне комплект энциклопедий. Позже я проверил местную библиотеку, чтобы посмотреть, смогу ли я найти больше о стране, чем то, что я уже знал, но не нашел. На самом деле их энциклопедия была старше и содержала еще меньше полезной информации.

Хотя это правда, что творческие темы, как правило, имеют гораздо больший набор возможных результатов, которые будут считаться проходящими, он все равно будет ограничен. Единственный способ противостоять этому — писать бесконечно длинные эссе, а мы все знаем, насколько это непрактично. Кроме того, существует практический предел того, насколько длинное эссе вы можете запросить по той или иной теме. Особенно это касается сочинений в начальной школе.

Так что да, любой инструмент, который будет искать каждую когда-либо написанную статью, чтобы увидеть, есть ли совпадение, через какой-то момент просто пометит все, что вы отправляете.

Я всегда считал эссе пустой тратой времени. Подавляющее большинство вакансий не предполагают написания эссе. На самом деле я никогда не писал эссе вне школьной жизни и не делал ничего, что можно было бы считать сопоставимым. То есть, помимо написания одного для собственного развлечения. Нынешнее состояние того, как легко обмануть и как легко быть обвиненным в мошенничестве, даже если вы этого не делаете, только убеждает меня, что я был прав с самого начала.

Ради иронии, я написал этот комментарий почти как эссе, потому что считаю его забавным. Я сейчас нахожусь в странном полусонном состоянии, так что это, наверное, актуально.

Теперь я чувствую, что должен накуриться и потерять сознание. Тем не менее, я, вероятно, пропущу часть, посвященную кайфу.

Шавано сказал:
Какова была ваша точка зрения, поскольку вы почувствовали необходимость отредактировать оба опубликованных вами текста LLM, чтобы привести их в соответствие стандарт, который, по вашему мнению, может быть ошибочно принят за человеческий труд, и привел плохо написанный пример человеческого труда для сравнение?

Я не думаю, что ты что-то продемонстрировал.

Нажмите, чтобы развернуть...
Оп сказал, что они всегда могут определить, было ли что-то написано ИИ или нет. Если написание ИИ настолько очевидно, они должны быть в состоянии определить, написано ли что-то только частично ИИ или полностью написано ИИ, но отредактировано вручную.

Поскольку они также упомянули конкретное письмо учащихся, последнее, полностью написанное человеком, было сделано для имитации уровня письма старшеклассника.

И прежде чем вы скажете, что это не среднее сравнение уровня письма старшеклассника, я буквально погуглил эту подсказку и посмотрел письменные примеры. Множество студентов просто писали о своей первой влюбленности. Во всяком случае, ИИ был более изобретателен в этом плане, когда дело доходило до возможности придумать собственный сценарий.

Так что да, «плохо написанный пример», но угадайте, что написал бы средний школьник. Вероятно, некоторые студенты первого курса университета тоже. В конце концов, не все талантливы в писательстве. Это похоже на то, что письмо требует больше, чем просто «души», а также навыков.

Гецио сказал:
Оп сказал, что они всегда могут определить, было ли что-то написано ИИ или нет. Если написание ИИ настолько очевидно, они должны быть в состоянии определить, написано ли что-то только частично ИИ или полностью написано ИИ, но отредактировано вручную.

Поскольку они также упомянули конкретное письмо учащихся, последнее, полностью написанное человеком, было сделано для имитации уровня письма старшеклассника.

И прежде чем вы скажете, что это не среднее сравнение уровня письма старшеклассника, я буквально погуглил эту подсказку и посмотрел письменные примеры. Множество студентов просто писали о своей первой влюбленности. Во всяком случае, ИИ был более изобретателен в этом плане, когда дело доходило до возможности придумать собственный сценарий.

Так что да, «плохо написанный пример», но угадайте, что написал бы средний школьник. Вероятно, некоторые студенты первого курса университета тоже. В конце концов, не все талантливы в писательстве.

Нажмите, чтобы развернуть...

Вот в чем проблема, и почему я уделил вашему посту очень мало времени и критического мышления -

Это было просто: «Скажите мне, какие из них были написаны ИИ» в ответ кому-то, кто никогда не упоминал о каких-либо способностях обнаруживать записи ИИ. Кроме того, вы не смогли указать какие-либо границы или какой-либо контекст обнаружения произведений ИИ при оценке начальной школы, средней школы, колледжа, публикаций — ничего.

Единственное, что вы действительно доказали, это то, что если вы сбросите на нас с неба три фрагмента текста без контекста, нам будет сложно определить, какие из них были созданы ИИ.

Эм, ладно, я думаю?

Гецио сказал:
Оп сказал, что они всегда могут определить, было ли что-то написано ИИ или нет. Если написание ИИ настолько очевидно, они должны быть в состоянии определить, написано ли что-то только частично ИИ или полностью написано ИИ, но отредактировано вручную.

Поскольку они также упомянули конкретное письмо учащихся, последнее, полностью написанное человеком, было сделано для имитации уровня письма старшеклассника.

И прежде чем вы скажете, что это не среднее сравнение уровня письма старшеклассника, я буквально погуглил эту подсказку и посмотрел письменные примеры. Множество студентов просто писали о своей первой влюбленности. Во всяком случае, ИИ был более изобретателен в этом плане, когда дело доходило до возможности придумать собственный сценарий.

Так что да, «плохо написанный пример», но угадайте, что написал бы средний школьник. Вероятно, некоторые студенты первого курса университета тоже. В конце концов, не все талантливы в писательстве. Это похоже на то, что письмо требует больше, чем просто «души», а также навыков.

Нажмите, чтобы развернуть...
Нет, ты фантазируешь. Вот подсказка, в результате которой вы опубликовали эти три примера:

Позвольте учащимся использовать LLM в течение года, но сделайте так, чтобы финальный тест проходил в классе с предложением на доске. например: «Напиши историю о самом эмоциональном моменте, пережитом в твоем детстве», а на столе лежит ручка/карандаш и бумага.
Тогда учитель сможет увидеть, научился ли ученик писать или просто научился управлять компьютерной программой.

Гецио сказал:

Человек, которому я ответил, сказал, что письмо ИИ никогда не сможет сравниться с письмом человека, потому что ему не хватает души и эмоций. Если бы это было правдой, это означало бы, что они знали бы, что пишет ИИ. Это так просто. Оно не было направлено против вас или кого-либо еще, это был простой ответ на простую идеалистическую мысль. Не знаю, почему именно тебя это так бесит.

Нажмите, чтобы развернуть...

О, твой ответ был прост, ладно. И я «так злюсь из-за этого», потому что вы ошибочно думаете, что доказали какую-то важную мысль, развенчав мою нерешительную догадку обо всех трех. Ваш «простой ответ» и простой пример оказались фактически бесполезными и не принесли ничего значимого.

Отредактируйте, чтобы добавить: Возможно, вам захочется вернуться и прочитать сообщение человека, которому вы ответили, еще раз. Я думаю, может быть, вы ответили совершенно не тому человеку; человек, которому вы ответили, никогда не заявлял о том, что он способен обнаружить письмо ИИ или о том, что ему не хватает души и эмоций. Они программисты, которые говорят, что используют ИИ для выполнения простых задач и обладают опытом и знаниями, чтобы узнать, когда он сделал что-то не так, и исправить это. Это далеко от того, что вы говорите.

Серьезно, это было 1700-е годы. ИИ еще не существовал на этой планете.

Потому что это все еще продукты v0.1. Они могут утверждать все, что хотят, без каких-либо доказательств. И конкурентов, к которым можно было бы обратиться вместо этого, не так много.

Кроме того, учителя не занимались обучением, по крайней мере, с тех пор, как я учился в школе. Они проводят время и наблюдают за учениками, но ученики сами должны учиться. С нулевой связью между эффективностью и вознаграждением за эффективное (или нет) обучение.

Если вы не можете что-то измерить, вы не сможете знать, действительно ли вы на это влияете, если попытаетесь это сделать. Точно так же, как изменение климата. Большинство людей не понимают изменчивости, стандартных отклонений и других инструментов, которые помогают понять или прогнозировать что-либо на основе популяций (групп данных в целом) и значений, которые меняются во времени (повторяющиеся, но меняется).

Люди получают повышение по службе и повышение потому, что им повезло или они понравились.

EternalStudent07 сказал:
Потому что это все еще продукты v0.1. Они могут утверждать все, что хотят, без каких-либо доказательств. И конкурентов, к которым можно было бы обратиться вместо этого, не так много.

Кроме того, учителя не занимались обучением, по крайней мере, с тех пор, как я учился в школе. Они проводят время и наблюдают за учениками, но ученики сами должны учиться. С нулевой связью между эффективностью и вознаграждением за эффективное (или нет) обучение.

Если вы не можете что-то измерить, вы не сможете знать, действительно ли вы на это влияете, если попытаетесь это сделать. Точно так же, как изменение климата. Большинство людей не понимают изменчивости, стандартных отклонений и других инструментов, которые помогают понять или прогнозировать что-либо на основе популяций (групп данных в целом) и значений, которые меняются во времени (повторяющиеся, но меняется).

Люди получают повышение по службе и повышение потому, что им повезло или они понравились.

Нажмите, чтобы развернуть...

Я уверен, что существует множество плохих учителей, которые до сих пор работают. Но вы не думаете, что какие-либо из них заслуживают внимания или должным образом оплачиваются, или у вас нет инструментов или желания оценить, насколько они эффективны? Или что никто из них на самом деле не заботится об этом и не пытается обучать? Это какие-то громкие заявления, полные высокомерия и невежества.

Люди получают продвижение по службе и повышение зарплаты, потому что иногда они нравятся или им повезло. А иногда их продвигают по службе и повышают зарплату, потому что они действительно хорошо справляются со своей работой и у них есть измеримые доказательства, подтверждающие это.

Значит, эти инструменты в значительной степени бесполезны? Хорошо знать.

Когда я работал репетитором в местном университете, мы использовали TurnItIn в качестве автоматизированной «первой проверки» на плагиат. Если бы студент предоставил точные копии работ друг друга, он бы довольно хорошо это обнаружил. Помимо этого, все, что он действительно мог сделать, это сравнить его с набором данных источников и выполнить сравнение текста с этими источниками. Опять же, действительно способен обнаружить только самое явное копирование и часто дает ложные срабатывания.

Я, конечно, рад за своих учеников, что я оценивал результаты TurnItIn так же скептически, как и я. Думаю, за пару лет моей работы там я видел только три случая нового плагиата, которые действительно оправдались. Что делало TurnItIn хотя бы отдаленно полезным в этих случаях, так это его способность фактически цитировать то, что, по его мнению, было источником плагиата. Если эти инструменты ИИ этого не делают, то они более чем бесполезны.

«...некоторые задачи по механическому написанию (возможно, создание стандартизированных сводок погоды) могут быть соответствующим образом ускорены с помощью ИИ». IIRC, один из первых успешный приложения машинного перевода переводили сводки погоды с французского на английский язык. Но вскоре после этого стало понятно, что все же проще (и лучше) создавать сводки погоды на английском и французском языках непосредственно из сводки погоды в структурированном (не французском или английском) отчете.

Я немного опоздал на вечеринку, но мне кажется, это решаемая проблема.

Студент сдает работу, учитель спрашивает ученика о ключевых темах в работе, если ученик может сформулировать правильный ответ, то на самом деле не имеет значения, написал ли его ИИ или нет, ИМО. Смысл преподавания в том, чтобы ученики учились. Это означает, что рассмотрение каждой работы со студентами может занять больше времени, но, возможно, образование необходимо изменить.

EternalStudent07 сказал:
Потому что это все еще продукты v0.1. Они могут утверждать все, что хотят, без каких-либо доказательств. И конкурентов, к которым можно было бы обратиться вместо этого, не так много.

Кроме того, учителя не занимались обучением, по крайней мере, с тех пор, как я учился в школе. Они проводят время и наблюдают за учениками, но ученики сами должны учиться. С нулевой связью между эффективностью и вознаграждением за эффективное (или нет) обучение.

Если вы не можете что-то измерить, вы не сможете знать, действительно ли вы на это влияете, если попытаетесь это сделать. Точно так же, как изменение климата. Большинство людей не понимают изменчивости, стандартных отклонений и других инструментов, которые помогают понять или прогнозировать что-либо на основе популяций (групп данных в целом) и значений, которые меняются во времени (повторяющиеся, но меняется).

Люди получают повышение по службе и повышение потому, что им повезло или они понравились.

Нажмите, чтобы развернуть...

Студенты всегда должны были учиться, независимо от квалификации учителя. Есть причина, по которой поговорка о том, как вести лошадь к водопою, такая старая.

Мой опыт в сфере образования был удивительно последовательным на протяжении всей моей жизни: несколько поистине фантастических учителей сумели заинтересовать меня предметами, которые мне не нравятся. (особенно математика в колледже), большая горстка абсолютно мусорных учителей, которые были деструктивными и разъедающими (особенно математика в средней школе), в то время как большинство из них были приемлемо компетентный.

Конституция, написанная ИИ, не требует, чтобы Джеймс Мэдисон был путешественником во времени. Для этого требуется лишь, чтобы в какой-то момент в будущем Вселенной ИИ разработал путешествия во времени.

Я предполагаю, потому что наша Конституция поставила в тупик юристов с высшим образованием, сидящих в высшем суде страны. поскольку поправка включала запятую, я ни капельки не удивлюсь, если у ИИ возникнут проблемы с этой ненормальной запятой, поскольку хорошо.

В моей области три детектора искусственного интеллекта, которые я использую, редко расходятся во мнениях и за последний год выдали только 2 ложных срабатывания (учитывая 4,5 миллиона пользователей и гораздо больше сообщений, 2 выглядят как хорошее число). Они выдали огромную кучу «не могу сказать» и ложноотрицательных результатов, но хм.

Короткий ответ на этот вопрос: «LLM/Генераторный искусственный интеллект — в целом лучше, чем Google», но «Специализированный предмет» — нет. Вам нужно начать с экспертного ИИ, а не с LLM/генеративного, и проверять каждую вещь, как он говорит. Потому что это, наверное, неправильно, и останется неправильным ещё 5-10 лет.

В академических условиях оценивающий читатель должен быть экспертом в предметной области и быть в состоянии определить, является ли то, что говорится в целевом тексте, правдой (или возможным расширением известных концепций). Вопрос о плагиате, будь то копирование человеческого текста напрямую без указания авторства или повторение потенциальной чепухи так называемой программой «ИИ», представляет собой отдельный вопрос. Нет смысла просить другого попугая (ИИ) решать подобные вопросы (и он обречен на провал по той же причине, по которой генерируемые ИИ текст всегда потенциально мусор, т. е. за созданием текста не стоит понимающая сознательная сущность, а это просто форма более сложный Семейная вражда игра, т. е. назови мне наиболее вероятное следующее слово, следующее предложение и т. д. статистически с учетом обучающего корпуса).

Я рекомендую прочитать сценарий «Идиократии» (2006, Майк Джадж и Итан Коэн), чтобы понять, почему мы вообще ведем эту дискуссию.

Последнее сообщение в блоге

Windows 11 отказывается от нескольких опций Проводника для опытных пользователей в новейшей предварительной версии
September 28, 2023

Я вполне уверен, что видел, как люди жаловались на отсутствие опции «не объединять» на панели задач буквально в каждой статье о Win 11, так что это...

Windows 11 отказывается от нескольких опций Проводника для опытных пользователей в новейшей предварительной версии
September 28, 2023

Я вполне уверен, что видел, как люди жаловались на отсутствие опции «не объединять» на панели задач буквально в каждой статье о Win 11, так что это...

Windows 11 отказывается от нескольких опций Проводника для опытных пользователей в новейшей предварительной версии
September 28, 2023

Я вполне уверен, что видел, как люди жаловались на отсутствие опции «не объединять» на панели задач буквально в каждой статье о Win 11, так что это...