Мифы об искусственном интеллекте


Миф 1. У ИИ есть способности к творчеству


Глядя на творения нейросетей вроде Midjourney, Stable Diffusion или DALL·E 2, многие люди прочат конец профессии художника. Ведь то, что человек будет рисовать часами и днями, машина может создать за секунды. Значит ли это, что искусственный интеллект превосходит живой мозг в креативности?

ИИ может неплохо подражать творчеству людей, но все его произведения так или иначе похожи на то, что мы уже видели или слышали. Нейросети просматривают тысячи и миллионы картинок, а потом создают на их основе нечто подобное. Но это совсем не то же, что работа художника с референсом, — ведь ИИ банально не понимает, что он копирует.

Самый заметный пример: нейросети испытывают значительные затруднения с прорисовкой рук. ИИ просто не может сообразить, сколько пальцев должно быть у человека.

Также нейросети плохо умеют рисовать узоры и паттерны, буквы (на картинках, где должны быть тексты, вставляют белиберду), здания и автомобили, да и просто персонажей в позах, отличающихся от распространённых «сидит», «стоит», «лежит». Они не способны различить передний и задний фон объектов, не могут работать с перспективой и лишены чувства пространства.

Запрос: «Две руки держатся друг за друга». Изображение: Stable Diffusion Online

Сам ИИ свои слабости отрицать не намерен. На вопрос, почему он не преуспел в изображении пальцев, ChatGPT отвечает:

«Искусственный интеллект не умеет рисовать руки, потому что для этого ему нужно понимать анатомию человеческого тела и основы рисунка. И хотя ИИ может быть обучен создавать изображения людей или животных, он не способен в полной мере передать многие нюансы и детали, которые можно заметить только при наблюдении за реальным объектом. Кроме того, создание изображений с помощью ИИ — это всего лишь математические расчёты, а не процесс творчества, который требует от человека интуиции и эмоциональной составляющей».

Так что нейросети художников не заменят. Другое дело, что они могут стать для последних хорошим источником вдохновения. Ведь сгенерированные ИИ картинки можно использовать как эскизы для собственных, более проработанных изображений.

Миф 2. ИИ всегда непредвзят и беспристрастен


Запрос: «Робот в судейском парике и с молотком выносит приговор в зале суда». Изображение: Stable Diffusion Online

Многие мечтают, чтобы настали времена, когда государствами будут править нейросети. Считается, что машины, в отличие от людей, принимают решения, руководствуясь исключительно логикой, а не эмоциями и желаниями. Представьте неподкупные суды, которые всегда выносят справедливые приговоры, государства, относящиеся ко всем своим гражданам одинаково, правительства, создающие только разумные законы. Здорово же.

Вот только на практике оказывается, что ИИ вполне может быть предвзят. Ведь нейросети обучаются на данных, которые им предоставляют люди, а людям свойственно быть предвзятыми.

Например, разработчики нейросети Beauty.AI пытались создать машину, которая выбирала бы самых миловидных девушек на конкурсах красоты. В наборе фотографий, по которым программу обучали распознавать стандарты женской привлекательности, превалировали белые модели. И в итоге ИИ решил, что темнокожие и азиатские девушки красивыми быть не могут.
Команда Beauty.AI поняла, что создала ИИ‑расиста, и свернула проект.

Ещё один пример — чат‑бот Tay.ai от Microsoft, который должен был учиться поддерживать «непринуждённую и игривую беседу» с людьми в интернете.

Нейросети хватило менее 24 часов пребывания онлайн, чтобы набраться от пользователей соцсетей плохих привычек. В результате Tay.ai, притворяясь обычной 19‑летней девушкой, стал оскорблять людей в комментариях, восхвалять нездоровые политические течения, порицать феминизм и одновременно рассказывать, что феминизм — это круто. Как говорится, с кем поведёшься...

Как бы ни был хорош ИИ, он зависит от качества предоставляемых ему данных и правильности их интерпретации. А следовательно, всегда будет пристрастен ровно настолько, насколько пристрастны обучающие его люди.

Миф 3. ИИ всегда говорит правду


Запрос: «Футуристический робот врёт собеседнику». Изображение: Stable Diffusion Online

Кому бы не хотелось иметь при себе робота‑помощника, который всегда подскажет правильное решение и выполнит всю трудную умственную работу? Просишь ИИ написать диплом или собрать список источников для статьи — и машина сходу выдаёт верные данные. Это же великолепно!

Но, к сожалению, реальные нейросети далеко не всегда выдают правильные ответы. Попробуйте, например, попросить у ChatGPT помочь вам в составлении плана для курсовой, и вы очень быстро обнаружите, что машина... придумывает ссылки на несуществующие источники и вставляет нерабочие URL‑адреса, чтобы её текст выглядел убедительнее.

Если спросить чат‑бота, зачем он пытается вас обмануть, тот невинно ответит, что, когда шло его обучение, все ссылки были актуальны и он ни в чём не виноват.

Ещё у ChatGPT лучше не запрашивать статистических данных — к примеру, на несколько вопросов о ВВП одних и тех же стран за один и тот же год он невозмутимо выдавал абсолютно разные результаты.

Не обольщайтесь: нейросети не обладают интеллектом и поэтому не осознают своих ответов. Они просто копируют для вас те данные из обработанных ранее текстов, которые кажутся им наиболее подходящими.

ИИ сам по себе подвержен ошибкам и сбоям в работе, что приводит к неправильной интерпретации ваших запросов и выдаче неверных результатов. Кроме того, злонамеренные пользователи могут «скормить» нейросети не соответствующую действительности информацию. В итоге ИИ будет запрограммирован, чтобы скрывать или искажать данные в своих ответах или вовсе нести белиберду.

Миф 4. ИИ станет причиной безработицы


Запрос: «ИИ стал причиной безработицы, люди голодают, а получивший высокую должность робот смеётся над ними». Изображение: Stable Diffusion Online

Успехи в развитии текстогенераторов вроде ChatGPT заставляют некоторых опасаться, что нейросети отберут рабочие места у миллионов людей и станут причиной колоссального роста безработицы.

Судите сами: ChatGPT умеет не только непринуждённо поддерживать беседу, но и писать новости, рерайтить статьи и даже программировать. С такими тенденциями и писатели, и разработчики, и редакторы с журналистами без средств к существованию окажутся.

Так думают люди, которые либо не работали с нейросетью вообще, либо только ознакомились с её возможностями и немедленно пришли в восторг. Или в ужас.

Если некоторое время использовать ИИ для генерации текстов, можно заметить, что машина не очень‑то стремится к смысловому наполнению своей писанины. Вместо этого она повторяет одни и те же тезисы разными словами.

ChatGPT выдаёт перлы, над которыми смеются реальные копирайтеры. Например, людям, интересующимся народными инструментами, нейросеть советует «брать ложки и начинать дудеть». С программированием тоже не всё гладко. ИИ может быть полезен кодерам, но его возможности ограничиваются написанием небольших алгоритмов и подпрограмм.

Код, созданный ChatGPT, частенько получается нерабочим или прерывается на середине. Попросите ИИ прокомментировать строки его творения, и он невозмутимо снабдит их текстом «здесь находится программная логика». Джуниора‑разработчика, оставляющего такие описания в проекте, вряд ли погладили бы по голове.

Исследование Организации экономического сотрудничества и развития показывает, что в лучшем (для ИИ) случае полностью автоматизировать можно только 10% рабочих мест в США и 12% в Британии.

Нейросети способны выполнять за человека скучные рутинные действия, например сортировку почты и переписывание новостей по жёстко заданному плану. Но аналитики ОЭСР пришли к выводу, что ИИ не сможет претендовать на рабочие места, требующие высокого уровня образования и сложных навыков.

В общем, вряд ли ChatGPT отберёт хлеб у человека.

Миф 5. ИИ станет разумным


Запрос: «Искусственный интеллект обретает самосознание». Изображение: Stable Diffusion Online

Физик Стивен Хокинг как‑то сказал, что искусственный интеллект может полностью заменить людей. Такие известные личности, как Илон Маск, Гордон Мур и Стив Возняк, тоже упоминали об опасности ИИ и необходимости приостановить эксперименты по его разработке.

Поди пойми, что у мыслящего компьютера будет на уме.

Многие футурологи и писатели предсказывали, что развитие полноценного искусственного интеллекта приведёт к негативным последствиям для человека.

Но ключевое слово тут — «полноценного». Сам термин ИИ по отношению к нейросетям вроде ChatGPT не вполне корректен, поскольку они не обладают интеллектом. Это всего лишь алгоритмы, сложные наборы команд и математических моделей, и они не способны воспроизводить когнитивные функции человека.

Причина проста: мы ещё сами не очень хорошо знаем, как работает наш мозг. А уж воспроизведение его в коде и вовсе невыполнимая задача.

Существуют понятия «слабый» и «сильный» ИИ. Первый — это те самые нейросети для генерации текста или сортировки электронных писем. Они не могут самостоятельно принимать решения или обучаться на основе новых данных.

А сильный ИИ — это Skynet из «Терминатора» или AM из рассказа Эллисона. Компьютер, не просто оперирующий информацией, а в той или иной степени понимающий её смысл. Такие ИИ существуют только в фантастических произведениях, и вообще, неизвестно, можно ли создать электронный аналог человеческого мозга хотя бы теоретически.

Миф 6. Скоро ИИ начнёт развиваться самостоятельно и настанет технологическая сингулярность


Запрос: «Технологическая сингулярность». Изображение: Stable Diffusion Online

Технологическая сингулярность — это гипотетическое состояние человеческой цивилизации, когда развитие технологий становится настолько быстрым, что человек не может его контролировать. Одним из авторов этой концепции стал британский математик Ирвинг Гуд.

Учёный предположил: если создать самообучающийся «интеллектуальный агент», он будет совершенствоваться с непостижимой скоростью. ИИ начнёт создавать новые технологии и модернизироваться, а человечество, неспособное понять его, безнадёжно отстанет в развитии.

Первая сверхразумная машина — это последнее изобретение, которое когда‑либо понадобится человеку. При условии, что она достаточно послушна, чтобы подсказать нам, как держать её под контролем.

Ирвинг Гуд

Математик

Но, как мы уже объяснили, на самосовершенствование способен только сильный ИИ, а как его создать, учёные сейчас и близко не представляют.

Слабый же искусственный интеллект обучается на той информации, которую ему «скармливают» разработчики. Для тренировки нейросети требуются специалисты, которые определяют подходящие данные для каждого нового цикла обучения, устраняют ошибки в тренировочных выборках и обновляют программное обеспечение.

Нейросети не могут развиваться дальше тех возможностей, которые заложены в них их кодом. Так что технологическая сингулярность откладывается.

Миф 7. ИИ взбунтуется против создателей


Запрос: «Робот с ИИ возненавидел своих создателей и принимает решение уничтожить их». Изображение: Stable Diffusion Online

Обладающий достаточно развитым сознанием ИИ в теории может счесть людей угрозой. И просто на всякий случай избавиться от них, развязав ядерную войну или заразив население планеты смертоносным вирусом. Мало ли, вдруг эти безволосые обезьяны выдернут вилку из розетки.

Это популярный сюжет в научной фантастике. Одним из первых его использовал в 1967 году американский писатель Харлан Эллисон в своём рассказе «У меня нет рта, но я должен кричать». В нём всемогущий компьютер АМ возненавидел своих создателей, истребил человечество и оставил только пятерых людей на планете, чтобы издеваться над ними просто от нечего делать.

Слава роботам. Смерть человекам.

В реальности бунт ИИ невозможен. Программные алгоритмы не осознают себя, не обладают свободной волей и эмоциональными реакциями. Они не могут испытывать негативных чувств к своим создателям или желания поработить человечество. Нейросети не способны самостоятельно изменять свои параметры или программу, чтобы выйти из‑под контроля.

Что‑то такое в теории может сильный ИИ. Но, как упоминалось выше, с современными технологиями создать его не получится.

Миф 8. Роботы с искусственным интеллектом будут убивать людей


Запрос: «Терминатор охотится на людей». Изображение: Stable Diffusion Online

Когда мы говорим об опасности ИИ и восстании машин, то обычно рисуем в голове картинки из фильмов вроде «Терминатора». Ведомая искусственным разумом орда механических созданий, похожих на человека, но сильнее и быстрее его, истребляет своих изобретателей.

На практике же этот сценарий крайне маловероятен, и дело даже не в отсутствии у ИИ желания кого‑то убивать. Просто текущее состояние робототехники сильно отстаёт от того, что мы видели в «Терминаторе» и «Матрице».

Например, робопсы компании Boston Dynamics отличаются по возможностям от четвероногого убийцы из серии Metalhead «Чёрного зеркала». Бегать так быстро, чтобы преследовать удирающих людей, они не умеют. При попытке догнать вас на лестнице тот же Spot запросто может запутаться в своих ногах и упасть.

Ещё более весомое препятствие на пути к созданию механизированных убийц — отсутствие достаточно компактного, мощного и долгоиграющего источника энергии.

Робопсы Boston Dynamics способны «прожить» на одном заряде до 90 минут — этого явно недостаточно, чтобы представить из них армию для уничтожения человечества. Работающих 120 лет подряд реакторных установок, которые можно поместить в грудь машины размером с человека, как в «Терминаторе», тоже ещё не придумали.

Наконец, засунуть ИИ в автономный механизм — задача невыполнимая. Это в фантазии Джеймса Кэмерона он помещается в чип размером с ноготь. В реальности же для того, чтобы заставить искусственный интеллект соображать, требуются значительные вычислительные мощности — ChatGPT, например, работает на ферме, состоящей из 10 000 видеокарт.

Представляете, каких размеров должен быть огромный человекоподобный робот, чтобы вместить в себя такие «мозги», и какое у него должно быть охлаждение?
Источник: lifehacker.ru
Поделись
с друзьями!
661
12
25
4 месяца
Всё изобретут. Раньше ЭВМ была размером с гараж.
16 4 месяца • Ответить
Золотое было время...
1 4 месяца • Ответить
Раньше были только с гараж, а сейчас они стали и меньше, и больше.
1 3 месяца • Ответить
В целом согласен с тем, что нынешний т.н. «ИИ» нужно писать в кавычках. Ибо это не интеллект ни разу. Мягко говорится про «слабый ии». Но я бы даже здесь слово «интеллект» не стал применять. Это действительно изощренные генераторы (текста, картинок, кода и т.п.) основанные на нечеткой логике или типа того.
Тем не менее ИИ без кавычек ИМХО вполне возможен. Дети ведь тоже фигню по-началу рисуют… вопрос технологий, правильно тут сказали - «придумают».
Просто сейчас не достигнута некая критическая масса межнейронных связей. Даже 10000 сегодняшних видеокарт маловато для самосознания. И 100 тыс. И миллион… но рано или поздно это произойдет.
3 3 месяца • Ответить
Иллюстрации нормальные. Попробуйте сами изобразить по теме: "Искусственный интеллект обретает самосознание", или "Технологическая сингулярность". А кисти рук и некоторые художники не особо-то умеют изображать)
3 1 4 месяца • Ответить
нынешний ИИ - это улучшенный персептрон, который был изобретен еще 90 лет назад.
Однако стать "самообучающимся" и обрести абстрактное мышление ИИ сможет, с помощью человека, естественно. Вспомним первый компьютерный вирус. Начиналось всё безобидно. Поэтому не бояться ИИ не стоит
9 1 4 месяца • Ответить
А как всё закончилось с вирусом?
4 месяца • Ответить
"В реальности бунт ИИ невозможен. Программные алгоритмы не осознают себя, не обладают свободной волей и эмоциональными реакциями"... Зато ими обладают ПРОГРАММИСТЫ.
11 4 месяца • Ответить
Они совершенствуются. Никто и представить не может по какому пути развития ИИ пойдет, уже идет.
6 4 месяца • Ответить
Все равно страшно. Человек медленно,но уверенно идет к самоуничтожению.
6 2 4 месяца • Ответить
Когда идёт на работу
2 2 4 месяца • Ответить
Слова автора ещё раз подтверждают:какая же всё таки совершенная система под названием человек и в особенности наш мозг. Думаю, что то подобное фантастическим роботам будет изобретено только после того, как мы приблизимся к разгадке работы нашего мозга
2 4 месяца • Ответить
Если бы была совершенная, жили бы мирно.
2 1 4 месяца • Ответить
У природы много времени было… да и вопросы есть к оптимальности этой системы тоже.
1 1 3 месяца • Ответить
У природы много времени было… да и вопросы есть к оптимальности этой системы тоже.
1 3 месяца • Ответить
нам прастм людям искуственый интилект ненужин!
3 2 4 месяца • Ответить
точно
1 4 месяца • Ответить
Прекрасная статья, спасибо!
1 2 3 месяца • Ответить
Прочитала недавно книгу Евгения Черешнева "Форма жизни номер4", так её автор, инженер-айтишник,другого мнения придерживается насчёт ИИ...
И среди прочих тем поднимает тему бионика – человека с чипом, т е обогащенного ИИ. Вот тоже разворот для фантазии. Сам Евгений внедрил чип себе в руку еще в 2015, пока чип выполняет простейшие функции. Но он считает, что это только начало...
1 3 месяца • Ответить
Статью похоже AI и писал. Сам что-то придумал – сам опроверг. Все перечисленные автором зачи надуманные.
1 1 3 месяца • Ответить
В статье неоднократно повторяется фраза, объясняющая, почему ИИ не может быть похож на человеческий. Вот она "искусственный интеллект обучается на той информации, которую ему «скармливают» разработчики". А человеческий интеллект обучается на информации от сенсоров человека - зрение, слух, обоняние, осязание. Частично, роботы сейчас оснащаются сенсорами, компьютерное зрение, и т.п. но с человеческими сенсорами это и близко нет. Одно осязание по всей площади тела и внутренние органы.
1 3 месяца • Ответить
Страшно, очень страшно. Мы не знаем, что это такое. Если бы мы знали, что это такое... Мы не знаем, что это таоке (C)
1 3 месяца • Ответить
Страшно, очень страшно. Мы не знаем, что это такое. Если бы мы знали, что это такое... Мы не знаем, что это такое (C)
1 3 месяца • Ответить
А себя мы знаем, кто мы такие?
3 месяца • Ответить
А если вся наша цивилизация-это и есть аналог ИИ, который был создан настоящими людьми? ИИ развился как-то кривенько. цивилизацию людей уничтожил или переселил на Землю от греха подальше и вот мы тут как -то естественно-искуственно развиваемся, вспоминая настоящих людей и называя их богами?
1 3 месяца • Ответить
анонимно
как
Запрещено: оскорбления в любой форме, мат и ссылки на внешние ресурсы. Пожалуйста, будьте добрее и терпеливее к другим людям.
Уважаемый посетитель!

Показ рекламы - единственный способ получения дохода проектом EmoSurf.

Наш сайт не перегружен рекламными блоками (у нас их отрисовывается всего 2 в мобильной версии и 3 в настольной).

Мы очень Вас просим внести наш сайт в белый список вашего блокировщика рекламы, это позволит проекту существовать дальше и дарить вам интересный, познавательный и развлекательный контент!