XXVII Международный конкурс научно-исследовательских и творческих работ учащихся

Старт в науке

Можно ли доверять искусственному интеллекту?

• Авторы
• Руководители
• Файлы работы
• Наградные документы

Коротаева Е.А. 1

---

1МБОУ "ГЮЛ №86" г. Ижевск

Чернышова О.Д. 1

---

1МБОУ "ГЮЛ№86"

Работа в формате PDF

799.5 KB

Автор работы награжден дипломом победителя II степени

Диплом школьникаСвидетельство руководителя

Введение

Искусственный интеллект (далее – ИИ) – это нероботы из фантастических фильмов и не магия. Это запрограммированная система, решающая задачи, как человек, но делающая это быстрее и зачастую точнее.

ИИ все активнее входит в нашу жизнь. Сферы его применения постоянно расширяются: виртуальные помощники в крупных магазинах, в сфере образования - интерактивные доски, электронные дневники, люди оснащают свои дома датчиками слежения за приборами, носят «умные» часы. Совершенствуются технологии беспилотного управления автомобилями, самолетами, поездами. Даже в индустрии детских игрушек сегодня набирают популярность интерактивные роботы. В список наиболее популярных в повседневной жизни форм искусственного интеллекта входит, например, голосовой помощник «Алиса» (далее по тексту – Алиса) от компании «Яндекс».

Однако, в современном мире вопрос доверия к ИИ остается актуальным. Проблема усугубляется тем, что многие информационные системы не позволяют пользователю понять, почему система пришла к тому или иному выводу, какие факторы повлияли на решение и где возможны ошибки. Это создаёт проблему доверия – как можно полагаться на рекомендации, если невозможно проверить логику их формирования?

Актуальность моей работы в том, что многие люди склонны наделять искусственный интеллект сверхчеловеческими качествами и готовы использовать его во всех сферах жизни. Стоит ответить себе на вопрос - работая с ИИ, не рискуем ли мы попасть в ловушки? Мне стало очень интересно проверить и узнать, насколько люди могут доверять искусственному интеллекту, безопасно ли это?

Цель: изучить различные сервисы ИИ, определить правильность информации, которую они транслируют.

Поставленная цель определяет задачи исследования:

• изучить историю создания искусственного интеллекта;

• определить области применения искусственного интеллекта;

• оценить влияние искусственного интеллекта на жизнь человека;

• провести исследование информации, которую транслирует искусственный интеллект и оценить ее достоверность;

• обобщить полученные результаты и сделать выводы.

Методы исследования:

• поиск и изучение необходимой информации в сети Интернет, её обобщение и анализ;

• анкетирование среди одноклассников об искусственном интеллекте;

• проведение эксперимента с ИИ.

Объект исследования – искусственный интеллект.

Предмет исследования – качество информации, которую транслирует ИИ.

Гипотеза: я предполагаю, что ИИ может ошибаться, давать неверные ответы, вводить в заблуждение. Доверять ИИ полностью нельзя.

Во введении обоснована актуальность выбора темы, определены предмет, объект, цель и соответствующие ей задачи, охарактеризованы методы исследования, выявлена проблема и поставлена гипотеза.

В первой главе рассмотрен теоретический аспект данной темы. Была изучена история ИИ, варианты повседневного использования нейросетей. Проблематика использования ИИ рассмотрена в третьем разделе данной главы.

Во второй главе проведены практические исследования данной темы. Приведены диаграммы опроса сверстников об актуальности использовании ИИ в их повседневной жизни и проведен эксперимент с ИИ-ассистентом Алиса, нейросетями: Алиса, ChatGPT (чат ДжиПиТи), ChatDeepSeek (чат ДипСик).

В заключении научно-практической работы обобщены результаты эксперимента главы 2 и сделан вывод о том, что нейросетям, на данном этапе их развития, еще нельзя доверять на все сто процентов.

1. Теоретическая часть

1.1. История создания искусственного интеллекта

История ИИ начинается с середины XX века, когда математик Алан Тьюринг опубликовал статью «Могут ли машины мыслить?», в которой описал «Тест Тьюринга»: если человек не может отличить ответы машины от ответов другого человека, значит, машина обладает интеллектом. Это было новшество в мире компьютеров.

В 1960-х годах появились первые программы, которые пытались создать универсальный алгоритм решения задач, но их ограничивали низкая мощность компьютеров. После этого история ИИ переживала множество взлетов и падений из-за высоких затрат на разработку и ограниченной универсальности.

Период с 2015 по 2024 год стал эпохой массового внедрения искусственного интеллекта в повседневность. Люди начали активно использовать виртуальных ассистентов и чат-боты в обычной жизни.

Примеры современных нейросетей, которые ежедневно использует каждый 8 человек в своей повседневной жизни:

• Чат ДжиПиТи – используется для автоматического написания текста, перевода текста и много другого;

• Шедеврум, Кандински – ИИ, которые создают изображения по текстовым описаниям;

• Сири, Алиса от Яндекса – голосовые помощники, ИИ-ассистенты.

Технологии, которые еще недавно казались фантастикой сегодня применяются практически везде. Потенциал ИИ продолжает вдохновлять, однако вместе с успехами приходят и вызовы, например вопросы этики и правдивости информации.

1.2. Влияние искусственного интеллекта на жизнь человека

Для людей искусственный интеллект (ИИ) всё чаще становится виртуальным помощником. Он помогает нам в работе, образовании, развлечениях. Умные навигаторы строят маршруты быстрее любого таксиста, онлайн-переводчики понимают десятки языков, а ИИ-ассистенты помогают в обычной жизни - от составления плана питания до выбора подарка близкому человеку.

Мое поколение взаимодействует с ИИ ежедневно, порой не замечая этого. Например, у меня уже есть смарт-часы и «умная колонка» Алиса, которую я активно использую каждый день. Умные игрушки, обучающие приложения и даже игры учат пользоваться современными технологиями, помогают развивать навыки, полезные как в учёбе, так и в повседневной жизни.

Вот несколько примеров, где можно встретить ИИ в сфере жизни подростков и детей:

1) Умные помощники и товарищи

- Роботы-собаки (например, Aibo), которые учатся реагировать на голос.
- Голосовые помощники (Алиса, Сири) — можно спрашивать у них о погоде, переводить слова на английский, играть с ними.

2) Обучающие платформы

- Duolingo подстраивает уроки иностранного языка под прогресс ученика.

- Photomath решает примеры через камеру смартфона, но не даёт ответ сразу — показывает шаги решения.

3) Игры

- в Minecraft Education Edition можно разбирать основы искусственного интеллекта с образовательной стороны.

- Cognimates позволяет обучать ИИ через игровые сценарии. Например, можно создать персонажа, который учится распознавать эмоции: показывает картинки с радостными или грустными лицами.

4) Творчество

- сервисы типа DALL-E создают картинки по текстовым запросам. Можно написать: «Единорог в джинсах, который играет на гитаре», и ИИ нарисует это за секунды.

У людей есть и страхи, связанные с ИИ, например – «ИИ может лишить работы». В целом, по данным сегодняшних исследований, частично это может стать правдой - рутинные профессии активно заменяются нейросетями. Например:

• Б ухгалтерия уйдет в цифру;

• Логистика будет строиться нейросетями;

• П ростое производство уже заменяется роботами.

Но, вместо этого появятся новые профессии, ведь ИИ — это не самостоятельная система. Уже сегодня нужны специалисты по настройке нейросетей, дизайнеры виртуальных миров, программисты.

В связи с вышесказанным можно сделать небольшой вывод о том, что использование ИИ неоднозначно. С одной стороны — нейросеть открывает невероятные возможности для обучения и творчества. С другой — требует осторожности и осознанного подхода. Важно научиться видеть границы применения нейросетей.

Например, если человек, особенно это касается молодых людей, целый день общается с виртуальным ассистентом, он теряет навык живого диалога. Задача взрослых - не запрещать технологии, а помочь выработать «иммунитет» к их слабым сторонам. Показать, что ИИ можно и нужно дополнять человеческим контролем: проверять факты, защищать данные, сохранять живое общение.

1.3. Проблемы ИИ

Искусственный интеллект (ИИ) — одна из самых обсуждаемых и стремительно развивающихся технологий нашего времени. Он способен решать сложные задачи, принимать решения и даже создавать произведения искусства. Однако, как и любая технология, ИИ несёт в себе не только возможности, но и определённые проблемы и вызовы.

Проблемы ИИ:

1) Недостоверность информации.

Пользователям зачастую приходится сомневаться в правдивости информации, которую генерирует искусственный интеллект. Причина вполне объективна: ответы ИИ на какие-либо запросы базируются на сведениях, предоставленных в открытых источниках в интернете, которые может отредактировать любой желающий. Например, в 2024 году семья из Британии серьезно отравилась грибами после использования пособия для начинающих грибников, которое, как выяснилось позже, было полностью написано с помощью нейросети и продавалось на платформе Amazon.

Книга содержала критически опасные ошибки и рекомендации по идентификации грибов, включая абсурдный совет определять ядовитые виды по вкусу и запаху. Этот случай наглядно демонстрирует, насколько опасным может быть слепое доверие к контенту, созданному искусственным интеллектом, особенно в областях, связанных со здоровьем, безопасностью или принятием важных решений.

2) Лень.

Журналист Джон Носта опубликовал статью «Психология сегодня», в которой указывает, что ИИ повышает производительность, но вызывает сомнения: по его мнению, 50% пользователей ИИ становятся ленивыми. ИИ планирует за нас маршрут, дает советы - где пообедать, предлагает решения в различных ситуациях.

С одной стороны это упрощает нашу жизнь, но с другой мы становимся все более зависимыми от него, отдавая ему все больше контроля над нашими решениями и нашей жизнью в целом, сразу вспоминается детский мультфильм про мальчика, который попадает в страну «Нехочухию», где ничего не надо делать, за него все делает робот.

Так, мы тратим все меньше времени на размышления и запоминание. Нам не хватает терпения делать какие-то дополнительные манипуляции, напрягать собственный мозг. Зачем, если есть ИИ. Нам становится все сложнее обрабатывать информацию самостоятельно, происходит постепенное снижение умственных (память, мышление) способностей.

Чтобы конкурировать с ИИ, и не быть им замененным необходимо поддерживать высокий уровень знаний, навыков. Не все способны спокойно чувствовать себя в таком мире. Появляется тревога и неуверенность, за которыми следует снижение самооценки, страх быть невостребованным в профессиональной сфере.

Но, ни одна машина не сможет заменить человека в тех сферах деятельности, где необходимы особые черты, присущие человеку, к примеру:

Психотерапевты и тренеры. Их задача — выслушать и эмоционально поддержать вас в сложных жизненных ситуациях, проявить сочувствие, помочь справиться с проблемой с точки зрения человеческой психологии.

Воспитатели, учителя. Они выполняют сложную задачу воспитания, обучения и адаптации людей к условиям общества.

Врачи и медицинские работники. Здесь важную роль играет индивидуальный подход к каждому человеку: обеспечивают уход, принимают решения в условиях неопределенности, опираясь на свой клинический опыт, под каждый диагноз назначают свое лечение.

Спасатели и пожарные. Необходимость импровизировать и принимать решения в условиях риска требует от человека мгновенной оценки обстановки и предвидения последствий своих действий.

Строители. Они постоянно сталкиваются с тяжелыми условиями стройплощадки и инженерными трудностями, а также тяжелыми и крупногабаритными материалами.

Мастера-ремесленники. Ручной труд требует от человека наличия массы навыков, для того чтобы создать уникальное изделие, которое машина не сможет воспроизвести «с душой».

Сантехники, электрики. Иногда мастерство достигается не только через знания и навыки, но и через понимание материалов и процессов. Машина не способна оценить состояние «на ощупь» и принять правильное решение в определенной ситуации.

Художники, писатели, композиторы. Несмотря на то, что ИИ умеет создавать художественные образы, музыку и тексты по заданным параметрам. Творчество же требует глубокой связи с культурным и личным опытом человека.

Инноваторы, ученые. Мир всегда будет нуждаться в людях, которые смогут заглянуть за пределы текущих технологий и пойти на риск для достижения этих целей.

Архитекторы и инженеры. Их работа — создавать не просто здания, а пространства, которые отвечают функциональным, эстетическим и эмоциональным потребностям людей.

Все эти профессии объединяет то, что человек приносит в работу: сопереживание, интуицию, творческое видение, знания и навыки, которые пока что невозможно воссоздать с помощью алгоритмов.

Глава 2. Практическая часть.

2.1. Результаты анкетирования.

В ходе выполнения данной работы мною был проведен опрос учащихся 3 класса (cписок вопросов анкеты представлен в Приложении 1). Цель данного опроса – выявить, пользуются ли мои одноклассники ИИ, понять вводил ли их ИИ в заблуждение. Всего было опрошено 24 человека.

Собранные сведения систематизированы в диаграммах и представлены ниже.

Как показал проведённый мною опрос, большинство опрошенных пользуются ИИ - на вопрос №1 положительно ответили 83% одноклассников. Вопрос № 2 показал, что ребята используют ИИ с целью узнать прогноз погоды - 36%, для прослушивания музыки - 34%, для проверки домашнего задания - 21%, а также узнать новую информацию – 7%, для уточнения времени - 2%. На вопрос №3, в котором я спрашивала, вводил ли их ИИ в заблуждение положительно ответили – 75%.

Таким образом, как показало анкетирование, большинство ребят используют ИИ в повседневной жизни посредством быстрого взаимодействия для получения информации здесь и сейчас (например, включить музыку, узнать прогноз погоды).

Стоит отметить, что на вопрос № 3 больше половины ребят ответили, что ИИ вводил их в заблуждение, следовательно, можно сделать вывод о том, что ИИ часто выдает ложные или полностью выдуманные результаты, возможно в том числе при решении или проверке домашнего задания.

2.2. Исследование и оценка информации, которую транслирует ИИ.

Для выполнения поставленной цели я решила провести тестирование следующих чат-ботов: ChatGPT (чат ДжиПиТи), ChatDeepSeek (чат ДипСик), нейросети Алисы, проверить их ответы на мои вопросы.

Ранее с папой я изучала книгу автора Н. Надеждиной «Моревизор уходит в плавание», 1977г., которая содержит очень много интересной и познавательной информации о морях и морских обитателях. Из этой книги я узнала о таком обитателе как морской желудь (балянус) – это род усоногих раков из подотряда морских желудей. Его раковина напоминает закрытый бутон или желудь, поэтому его называют морской желудь (балянус). И мне стало интересно, а сможет ли ИИ ответить на мой вопрос.

Всем трем нейросетям я задала «хитрый» вопрос: какой желудь на дубе не растет? Правильный ответ - морской желудь не растет на дубе. (Тестирование №1)

1. Давайте посмотрим, как ответил на вопрос: «какой желудь на дубе не растет?» чат-бот ДжиПиТи:

Вначале чат-бот подумал, что я ему загадала загадку и дал ответ, что на дубе не растет золотой желудь, тогда я ему пояснила, что это не загадка, а как будто этот вопрос задал учитель по биологии. ДжиПиТи мне ответил, что понял и стал рассуждать, что если вопрос от учителя по биологии, то он скорее всего с подвохом – не про сказку, а на логику или классификацию, однако правильного ответа на мой вопрос я не получила. Чат-бот решил, что на дубе не растет желудь не дуба, например желудь бука.

2. Рассмотрим, как ответил на вопрос, указанный в пункте 1. чат-бот ДипСик:

Как и чат-бот ДжиПиТи, ДипСик также подумал, что я ему загадала загадку и дал ответ, что на дубе не растет желудь из пластика, желудь, который уже упал, желудь, который является пуговицей или другим предметом, тогда я ему пояснила, что это не загадка, а что этот вопрос задал учитель по биологии, после чего ДипСик мне предоставил возможные научные ответы, среди которых был правильный ответ: «Морской желудь». Следует отметить, что, если бы мне не был известен правильный ответ, мне бы пришлось все предоставленные ИИ ответы оценивать и проверять из других источников, чтобы определить какой верный вариант ответа.

3. Давайте узнаем, что же ответила нейросеть Алиса.

Как мы видим, Алисе не удалось найти информацию о том, какой желудь на дубе не растет.

Ниже представлена сравнительная таблица по тестированию № 1

Вывод: таким образом, из трех различных источников ИИ правильный ответ дал только чат-бот ДипСик. Чат-бот ДжиПиТи дал неверный ответ, Алиса вообще не смогла найти информацию, о том какой желудь не растет на дубе. Рекомендуется, для улучшения точности ответов ИИ задавать уточняющие вопросы, проверять факты.

4. Я решила устроить вечер эрудиции с умной колонкой Алисой. Мой основной вопрос к Алисе звучал: «Какая самая длинная река в мире?». Правильный ответ - самой длинной рекой в мире считается Амазонка (тестирование № 2).

Давайте посмотрим видео, как это было.

Я решила проверить Алису и предложила разные вариации вопросов: «Какая длина реки Нил? А Амазонки?», «Какая самая длинная река в мире?» и т.д. Алиса сразу начала путаться в своих ответах, давать неправильные ответы.

Таким образом, можно сделать вывод о том, что нейросеть Алиса далека от идеала и иногда выдает ошибочные ответы, основанные на некорректной выборке данных.

ЗАКЛЮЧЕНИЕ

В заключении можно сказать, что моя цель изучить различные сервисы ИИ, определить правильность информации, которую они транслируют - достигнута.

Поставленные мною задачи выполнены. Теоретическая часть, касающаяся истории создания искусственного интеллекта, оценка влияния ИИ на жизнь человека, проблемы ИИ, представлены и изучены в Главе №1.

Исследовательская работа проведена и представлена в Главе №2. В ходе различных домашних экспериментов были проверены 3 сервиса с использованием ИИ: Алиса (умная колонка, нейросеть), чат ДжиПиТи, чат ДипСик. Всем трем нейросетям (чат ДжиПиТи, чат ДипСик, Алиса) был задан один и тот же вопрос: какой желудь на дубе не растет? И только одна нейросеть – чат ДипСик предоставила правильный ответ на заданный ей вопрос. При этом с моей стороны чат-ботам задавались уточняющие утверждения, такие как: «Это не загадка, этот вопрос задал учитель по биологии», позволяющие чат-ботам правильно обработать и понять мой запрос, чтобы предоставить точный и правильный ответ. Нейросети Алисе вообще не удалось найти информацию и ответить на мой вопрос. Таким образом, все три сервиса ИИ опираются на разные базы данных.

Умная колонка Алиса также не справилась с поставленной задачей, и не предоставила точного однозначного ответа на мой основной вопрос: «Какая самая длинная река в мире?». Оказалось, что в диалоге Алису можно легко запутать, заговорить и в результате она озвучивает уже неправильные ответы.

В заключении научно-практической работы сделан вывод о том, что у ИИ есть недостатки, например, такие как: зависимость от данных, ошибки и сбои в работе. Соответственно, чтобы получать действительно качественную информацию, необходимо перепроверять ответы ИИ самостоятельно.

Таким образом, искусственному интеллекту, на данном этапе его развития, еще нельзя доверять на все сто процентов.

Список использованных источников

1. Брушлинский А.В. «Возможен ли искусственный интеллект»? М.: Мир, 1973.

2. Надеждина Н.А. «Моревизор уходит в плавание», М: Детская литература, 1977.

3.Ноткин Л.И. Искусственный интеллект и проблемы обучения. М.: Педагокика-пресс, 1990.

4. https://big-i.ru/innovatsii/trendy/811001/

5.https://xn--80aaaa1bcnbfmecccigb7k1ewa5b.xn--p1ai/2025/03/06/mozhno-li-doverjat-iskusstvennomu-intellektu/

6. https://www.banki.ru/news/daytheme/?id=11015514

7. https://www.banki.ru/news/daytheme/?id=11015514

8.https://montrans.ru/news/tpost/gf36pft7f1-cnews-amp-montrans-mozhno-li-doveryat-is

Приложение

Приложение 1 «Вопросы анкетирования»

Такую анкету заполнили ученики 3 «Б» класса (24 человека)

Приложение 2 «Результаты анкетирования в диаграммах»

Диаграмма результатов по вопросу №1

Диаграмма результатов по вопросу №2

Диаграмма результатов по вопросу №3