Новости 2023

30.03.2023

Разговоры о том, что искусственный интеллект вот-вот заменит представителей самых разных профессий, осенью 2022 года получили новое развитие благодаря разработанному компанией OpenAI чат-боту ChatGPT: эта нейросеть способна поддерживать диалог и отвечать на вопросы пользователей в самых разных областях знания, разыскивая информацию в доступных источниках. 

Реакции на очередное воплощение искусственного интеллекта были предсказуемо разнообразными, от скептических до восторженных: кто-то отмечал, что это всего лишь очередной виток разговоров про «скоро телевидение вытеснит театр», кто-то предрекал замену ботами представителей большинства интеллектуальных профессий – зачем нужны люди, если нейросеть умеет и программные коды писать, и тексты статей? Но чаще оценивались реальные возможности применения новинки в тех областях, где нейросеть уже может оказаться полезной, избавив сотрудников от рутинных процессов.

Не миновала дискуссия и сферу образования, тем более что в российском высшем образовании чат-бот вызвал небольшой скандал: в январе студент РГГУ защитил диплом, написанный с помощью нейросети. При более внимательном изучении этой истории выясняется, что «с помощью» – вовсе не то же самое, что «дал чат-боту задание и получил готовый текст». Юноша, обучавшийся по специальности «менеджмент», попросил чат-бота составить план диплома и несколько раз внести в него исправления в соответствии с требованиями вуза, затем с помощью серии запросов (один ответ чат-бота сейчас ограничивается 500 символами, но нейросеть запоминает диалог и новые ответы дополняют старые) сформировал текст для теоретической части. Для практической части диплома студент использовал найденное в сети описание чужого кейса, которое нейросеть помогла переделать под новые данные (чат-бот умеет не только сочинять, но и переписывать тексты). Результат далеко не сразу получился пригодным для выхода на защиту: научный руководитель многократно просила студента исправить текст, отмечая множество проблем с изложением и использованием цитат, да и после коллективного труда машины и человека диплом был оценен на «тройку». Сам выпускник отнесся к своей итоговой работе скорее как к эксперименту, а университетское сообщество больше всего насторожило то обстоятельство, что, в отличие от «привычного» плагиата (то есть работ, скомпилированных из чужих публикаций), в текстах, прошедших через обработку ChatGPT, сейчас не удается выявить заимствования с помощью системы «Антиплагиат». Отсюда и опасения преподавателей, что вскоре студенты массово начнут использовать возможности нейросети для подготовки письменных заданий.

Впрочем, не все склонны тревожиться – многие преподаватели гуманитарных дисциплин воспринимают чат-бот ChatGPT как тренажер для тех навыков, которые понадобятся студентам в современном мире. Если задания сводятся к пересказу учебников, пожалуй, нейросеть скоро справится с этим лучше студента, но вопрос в том, приносит ли такое задание сейчас реальную пользу студенту и жаль ли будет от него отказаться? А вот анализировать информацию и отделять проверенные данные от сомнительных – сложнее, поэтому преподавательские кейсы по использованию нейросети обычно направлены именно на прокачку этих навыков. Например, преподаватели предлагают студентам подготовить доклад или эссе, используя искусственный интеллект, а затем проверить подлинность предложенных нейросетью данных и цитат и обоснованность выводов – ведь преподавателям (в отличие от студентов) известно: проверять и исправлять чужую некачественную работу гораздо труднее, чем писать самому. Такое задание помогает оценить возможности нейросети и заодно попрактиковаться в проверке источников – навыки, которые очень важны для любого человека.

Действительно ли нейросеть так умна, как кажется?

Преподаватель дистанционной магистратуры «Православное богословие и философия в современном дискурсе», начальник управления ИТ «Сургутнефтегаз» Никита Дамирович Гимранов:

«Искусственный интеллект (ИИ) каждый понимает по-своему. В современных публикациях принято несколько значений этого термина, например, Толковый словарь по искусственному интеллекту (Аверкин А. Н., Гаазе-Рапопорт М. Г., Поспелов Д. А.) предлагает вариант определения «свойства искусственных интеллектуальных систем выполнять творческие функции, которые традиционно считаются прерогативой человека». Другие определения могут формулироваться как «способность системы правильно интерпретировать внешние данные, извлекать уроки из таких данных и использовать полученные знания для достижения конкретных целей и задач при помощи гибкой адаптации» (Kaplan A., Haenlein. M. Siri, Siri in my Hand, who’s the Fairest in the Land? On the Interpretations, Illustrations and Implications of Artificial Intelligence/ Business Horizons, 62(1), 2019, pp 15-25).

Во всех определениях есть четкий технологический ракурс, а также часто используются понятия, которые ещё не получили своего достаточного исследования и формулирования, такие как «творчество» и «интеллект». Мы на уровне общего понимания имеем какое-то представление о том, что такое творчество, но устойчивого определения нет, аналогично и с интеллектом. Мы в полной мере не знаем, как человек мыслит, как взаимосоотносятся разум и сознание… Разобрались в последние годы немного в работе мозга, но поняли, что нам ещё очень далеко до полного понимания, как человек думает. Поэтому в техническом плане делается определенное упрощение подходов. Интеллект сводится к работе нейронной сети, творчество – к выбору альтернатив генерацией случайных чисел и т.п.

Если сильно упрощать, то в основе любого ИИ лежат задачи классификации, которые различными способами решаются на огромных массивах данных. Поэтому, полагаю, что ИИ – это «движущаяся цель», понятие, которое мы будем переопределять по мере развития программных и технических средств, по мере прогресса в изучении мышления человека. Те, кто знаком с технологической начинкой современных систем с ИИ, вряд ли будут считать их «умными», это, в основном, взгляд потребителя. Так, человек из XIX века, попав в современный офис, счел бы его очень «умным» – лампочки «узнают» о его приближении и включаются, кран сам включает воду, когда она нужна, и сам выключает… Мы уже так не считаем – это просто технические исполнительские устройства, никакого интеллекта в них нет. В современном мире аналогию можно провести с разнообразными голосовыми помощниками, такими как Алиса у Яндекса или Маруся у ВК. Пользователь общается с ними как с людьми, дает оценку – здесь справилась, а здесь «ступила»… А тот, кто знает, как они устроены и работают, не увидит ничего особенно умного в их работе.

Каждая «умная» система, как, впрочем, и все другие представители созданного человеком Царства машин (см. «Человек и машина» Н.А.Бердяева), имеет своё назначение и контекст действия. И будет делать только то, что в неё заложил создатель. Это не машине, а человеку предстоит вписываться в контекст той «умности», которая в машину заложена. Алиса и Маруся «поймут» только те команды, которые находятся в контексте созданных для них навыков. И рекомендации для «продвинутой» и современной системы ChatGPT содержат советы по формированию четких запросов для получения качественного результата».

Как использование ChatGPT может повлиять на высшее гуманитарное образование?

Никита Дамирович Гимранов:

«При первом знакомстве с этой технологией трудно оставаться нейтральным – одному это очень понравится, он увидит здесь массу возможностей, а другой увидит серьезные угрозы. Оба будут правы. Это обычное состояние общества в моменты прихода какой-то существенной «новинки» (инновации). Например, телевидение сразу воспринималось современниками и как угроза культуре, и как возможность нести знание в массы. Сократ высказывался против письменности, потому что оно делает знание внешним для человека, мешает качественному внутреннему усвоению. И поэтому он всё знание передавал только устно!

Мы не можем запретить или уничтожить ChatGPT и его аналоги, поэтому надо искать царский путь – рассматривать и адаптировать возможности, принимать действенные меры против угроз.

Влияние на образовательную среду ChatGPT будет значительным. «Антиплагиат» может в один момент сделаться лишним. Студенты смогут вообще не учиться. А преподавателям придется адаптировать свои методические подходы так, чтобы использовать возможности ChatGPT, и при этом давать такие оценочные средства, которые не будут выполнимы с его помощью. Возможно, в перспективе будет пересмотрен подход к источникам, учебной литературе – встраивая контекстуализированный ChatGPT в образовательную среду, можно получить гораздо более качественный информационный материал, чем подавляющее большинство используемых учебников, особенно в региональных вузах.

В гуманитарном образовании использование текстов, сгенерированных ChatGPT, имеет значительные угрозы, потому что в гуманитарных науках нет алгоритмической четкости, присущей наукам точным, и прибегающий к ChatGPT рискует получить искаженное представление об искомом предмете, неверный ответ на интересующий вопрос. Причем, это будет сильно зависеть от того, к какой школе или религии относится вопрошающий. Ведь хорошо или плохо, верно или нет, допустимо или нет – зависит от принадлежности к той или иной системе ценностей. Для нас это – православное вероучение, Закон Божий. Для нивелирования этой угрозы необходимо четко обозначать контекст, ограничивающий обучающие данные определенным научным или мировоззренческим направлением.

Что меня радует, наличие и использование ChatGPT неминуемо приведет нас к практически полному возврату к живым устным экзаменам как верному средству рубежной проверки усвоенных знаний, полученных навыков.

Если обобщать отношение к ChatGPT, я уверен, что человечество не удержится от искушения использовать его во зло, но вместе с тем и найдет способы и методы использования во благо. Механизм этого процесса хорошо описал Н.А.Бердяев, видевший в отношениях человека и техники – «отношения человека к природе, личности к обществу, духа к материи, иррационального к рациональному» и писавший о том, что негативное, дегуманизирующее влияние техники на человека вызывает «напряжение духа», благодаря которому человек сопротивляется разрушительному влиянию и находит выход».

Директор Института дистанционного образования, протоиерей Геннадий Егоров:

«Появление нейросетей с простым пользовательским интерфейсом снова ставит нас перед пониманием того, что такое человек и что такое образование. Механистическое, «компьютерное» представление о человеке как об инструменте хранения и переработки информации приводит нас к пониманию «поражения» и «ненужности». Копить и перерабатывать информацию компьютеры могут уже лучше во многих отношениях. Тогда в чем смысл образования, если считать, читать, писать и играть в шахматы за человека может компьютер? Пора вспоминать уже прошедшие дискуссии и начинать новые»

Как использовать ChatGPT?

Для бесплатного использования ChatGPT, нужно зарегистрироваться на платформе openai.com , что для пользователя из России сейчас проблематично: российские IP-адреса заблокированы, также невозможно пройти идентификацию с номером телефона российского оператора. Впрочем, эти ограничения при желании можно обойти с помощью несложных манипуляций (инструкции для обхода блокировки любой желающий быстро найдет в интернете).

Чат-бот готов поддерживать диалоги на русском, но пока лучше справляется с заданиями на английском языке. Впрочем, даже русскоязычным пользователям можно иметь с ним дело, если учитывать несколько правил:

1. Четко и детально формулировать запрос. Это касается не только конкретной информации, которую вы хотите получить с помощью бота, но и контекста, в котором вы собираетесь ее использовать, и структуры ожидаемого ответа. Получив обобщенный вопрос, чат-бот ведет себя как копирайтер, которому нужно быстро что-то написать на неизвестную тему, не выдав своей неподготовленности: составляет из доступных в сети материалов максимально обобщенный и малосодержательный текст. Но чем больше «вводных» предложить нейросети, тем конкретнее будет ответ. Например, если вы хотите получить план доклада для студенческой конференции, именно так и нужно прописывать в задании: план доклада из 3-4 пунктов для студенческой конференции в университете, по такой-то теме. Если в тексте должны быть использованы цитаты из конкретных авторов, об этом отдельно нужно сообщить боту. Если у вас есть примеры, похожие на то, что вы хотите получить от бота, вставьте их в запрос.

2. Проверять цитаты: как правило, чат-бот в русскоязычной версии предлагает не прямые цитаты с указанием источников, а пересказ мнений по заданному вопросу. Найти, где и кем конкретно высказывались такие мысли и как точно они были сформулированы, бывает непросто. Чтобы получить от бота конкретные данные, потребуется продолжительный диалог с уточняющими вопросами. Однако бот даже в русской версии быстро справится с заданиями вроде «найдите цитаты из Евангелия по заданной теме» – но, указав правильные номера глав и строк, предложит текст в непривычном переводе.

3. Учитывать ограничения, которые приводятся на главной странице чата: например, чат-бот пока ограничивается знаниями о мире до 2021 года. Но, даже если вы сделаете запрос о событиях столетней давности, вы можете получить совершенно недостоверную информацию, ведь бот пока не отличает точные данные от выдуманных или ошибочных.

Например, одной из причин Реформации бот обозначил распространение мятежей в католической церкви, оставив нас гадать, что имелось в виду.

А просьба составить вопросы для теста по истории Русской Православной Церкви, в которой четко оговаривались требования к вопросам, временной интервал, источники, на которые нужно опираться, виды информации, которую можно включать в тесты, и цель тестирования, привела к появлению вопросов вроде: «В каком году был провозглашен Новый стиль в России, что послужило одной из причин старообрядческого раскола? a) 1552 год b) 1652 год c) 1752 год d) 1852 год» с правильным ответом указанным как «1752 год».

Впрочем, вопросы для тестов в данный момент даются боту особенно сложно, независимо от конкретной области гуманитарных знаний, - именно это задание очень наглядно показывает, что система может выдать неправильные данные за правильные. Хотя, вероятно, это тоже лишь вопрос времени.

В каких ситуациях проще использовать нейросеть?

Чат-бот помогает, когда требуется не создать какой-то оригинальный интеллектуальный продукт, оформленный по всем критериям, предъявляемым к научным работам, а написать много похожих текстов под конкретные запросы (например, резюме для разных компаний).

Еще бот неплохо справляется, если нужно предложить несколько идей, которые вы сможете развить самостоятельно (например, придумать темы для докладов или статей в заданной области). Как игрушка-калейдоскоп, он предлагает найденные в интернете данные, комбинируя их в самых неожиданных сочетаниях, причем при каждом новом запросе с уточнениями получается новая комбинация. Поэтому чат-бот используют для сочинения сценариев и поисков сюжетов – он не придумает что-то гениальное, но сгенерирует варианты развития событий или идеи, за которые можно зацепиться в момент творческого ступора.

А если речь не о творческой работе, а о бытовых задачах, бот легко справляется, быстро пересказывая найденные в интернете советы, рецепты и генерируя пошаговые инструкции. Кстати, инструкцию о том, как лучше его использовать в том или ином случае, он тоже охотно для вас напишет.