Искусственный интеллект в автобизнесе

Если вы начнете задавать вопросы, которые являются спорными или затрагивать темы, которые больше не являются приемлемыми, ChatGPT отключится.

Я очень быстро столкнулся с проблемой, заключающейся в том, что почти каждый раз, когда я спрашивал его о каких-то вещах, он возвращался со словами: «я не могу это прокомментировать», или «обратитесь за профессиональной помощью», или «позвоните на эту горячую линию».

И я подумал: ну, может быть, проблема в этом. Вот главная причина, по которой мы делаем это неправильно.

Так что для меня это почти то же самое, что если ваша работа одобрена чатом, то это отличная система оповещения о том, что ее нужно переписать. Было очень интересно попробовать его, потому что я думал, что буду использовать его творчески, но, на самом деле, я всегда с ним не соглашался. Так что я просто перестал им пользоваться, и на этом все закончилось.

Примечание редактора: С творческим человеком понятно. Может, Рефн так взъелся на ChatGPT потому что пытался спихнуть на него написание своего очередного сценария и не прокатило.

Мы много слышим об искусственном интеллекте, и этот термин несет в себе ужасную путаницу… Потому что, на мой взгляд, термин «интеллект» означает что-то вроде способности знать или понимать какую-то область. Если что-то, на самом деле, не может понять какие-то вещи, мы не должны говорить, что это интеллект, даже если у него есть хоть капля интеллекта, но люди используют термин «искусственный интеллект» для генераторов бреда.

Люди говорят о системах вроде ChatGPT, которые ничего не понимают и ничего не знают. Вот почему я называю эти системы генераторами бреда, потому что единственное, в чем они хороши, — это создание гладко звучащего вывода, любая часть которого может быть бредом. Вы никогда не сможете в это поверить — что ж, вы глупы, если поверите.

Поэтому я не буду называть их «искусственным интеллектом» или чем-то еще, в чем есть слово «интеллект», потому что, называя их так, я побуждаю людей думать, что то, что они говорят, не является бредом сивой кобылы. Это побуждает людей верить им, и это дает им шанс причинить большой вред.

Я выделяю две области, где существует настоящий искусственный интеллект. Например, существуют программы, которые могут взглянуть на увеличенную фотографию некоторых клеток и сказать вам, с большей вероятностью оказаться правыми, чем любой врач-человек, являются ли они раковыми.

Или, например, существуют системы искусственного интеллекта, которые могут очень и очень эффективно определять, что привлечет внимание людей. Они используются антисоциальными медиа-платформами, и, как ни прискорбно говорить, они работают очень хорошо. Они очень хороши в своем деле, а именно в том, что они делают пользователей или «используемых» зависимыми.

Примечание редактора: Столлман известен своим дотошным подходом к терминологии. Здесь он не столько ругает технологии, сколько просит не употреблять слово Интеллект применительно к тому, что интеллекта по определению не содержит, в частности, к ChatGPT. На мой взгляд, в своём подходе к чистой терминологии он абсолютно прав. Качество речи определяет качество жизни! Я писал об этом в статье про техподдержку и там же призывал не путать разные вещи, которые называются называют одним словом.

Мы стали свидетелями своего рода гонки вооружений в области ИИ. Microsoft покупает продукты ChatGPT и предлагает их широкой публике. У Google были продукты, которые, по их мнению, были явно не готовы, но теперь им нужно конкурировать с Microsoft, поэтому они продвигают свои продукты, хотя знают, что еще слишком рано.

Сейчас есть и другие стартапы, которые пытаются опередить их. Все это происходит слишком быстро.

Меня беспокоят не сами ИИ, а их неправильное применение. Опять же, потому что они выглядят такими умными, но на самом деле таковыми не являются. Нам трудно выносить правильные суждения о них.

Одна из самых горячих вакансий для нелюдей — это создание и размещение спама в гостевых книгах веб-сайтов. Этот рынок в огне!

Если вы думали, что спам в гостевых книгах былых времен был впечатляющим, то вы еще ничего не видели.

Новая система рассылки спам-комментариев, ассистируемая ИИ, отличается улучшенным наполнением ключевыми словами, меньшим количеством грамматических ошибок, и, что самое главное, спама стало гораздо больше. Ваш раздел Комментарии ещё никогда не был таким бесполезным!

Примечание редактора: Сложно не согласиться! Мне сюда в блог прилетает примерно 1 500 спам-комментариев в месяц. Блогу несколько лет и с каждым кварталом я замечаю непрерывное повышение качества этих комментариев. Понятно, что это пишут роботы, но большинство людей уже год назад не могли отличить коммент от робота от коммента, написанного человеком.

Там роботы уже целые лонгриды начали сочинять и отличить их от человеческих можно будучи либо достаточно начитанным, либо заметив явную неприкрытую рекламу. Но и грубое вплетение рекламы в будущем они точно исправят. Создать искусственный интеллект, который сможет отличить человеческий комментарий от искусственного, по определению невозможно, поэтому отличать смогут только образованные начитанные люди, которых сейчас с каждым годом всё меньше.

Представляете, что будет, если вдруг появится поколение, которое вообще никогда не читало ни одного текста, написанного человеком…

Так что насчет Romero Games, моей компании? Что ж, мы вообще не используем генеративный ИИ в играх, ни в художественной работе, ни в программном коде, ни в аудио, ни в написании сценариев, ни в дизайне, и мы в этом отношении довольно тверды. Очевидно, что иногда ИИ может быть полезен в качестве супер-Google для исследований, для парсинга тысяч ссылок с целью получения потенциально окончательного ответа.

Но предстоит сделать еще много работы в этом направлении, и так, ИИ сообщил мне, что я родился в Гватемале. А я родился не там. Меня вырастила моя мексиканская бабушка. Но, по крайней мере, она была мексиканкой, хотя это было бы довольно здорово. Очевидно, я снимаюсь в музыкальных клипах, что для меня стало новостью. И самое лучшее, я сын режиссера фильмов ужасов Джорджа Ромеро, если вы этого не знали. Учитывая названия игр, которые я создаю, и фильмов, которые он снимал, ну, это довольно правдоподобно. Но правда в том, что все это неправда, и, очевидно, это опасно.

Технология генерации изображений с помощью технологий искусственного интеллекта поражает воображение. Она развивается с огромной скоростью, и детализация становится все более точной.

Я сам попробовал ее, и мое искреннее впечатление таково: «Ты не сможешь победить их». Более того, они могут рисовать так, как будто у них уже есть душа.

Именно потому, что мы живем в такую эпоху, я настаиваю на рисовании человеческими руками и являюсь приверженцем аналогового метода. Я думаю, что это единственный способ зарабатывать на жизнь.

Примечание редактора: Не могу комментировать художественную часть, так как не имею ни образования, ни художественного вкуса. Получается, что ИИ может применяться в вопросах генерации изображений настолько успешно, что как минимум один солидный и успешный художник не просто доволен, а даже восхищён. Будем считать, что в интервью, из которого взята эта цитата, он был искренен и переводчик ничего не напутал.

Текущий лингвистический, как его называют, «искусственный интеллект» — это больше искусственная интуиция, чем интеллект. Он натренирован на то, чтобы давать ожидаемые ответы. И для людей очень «смешно», когда он даёт неожиданный.

Но это только видимая сторона. Это «публичный» ИИ, который сделан не для помощи людям, а для их изучения. Поэтому зря смеёмся. Помните анекдот «Если я перестану тупить, они перестанут давать мне деньги»?

Вся современная цивилизация — это текст. До появления ИИ тексты писали только люди. Раньше грамотность, то есть, умение писать текст, была прерогативой исключительно элит, затем её сделали повсеместной, а теперь мы делаем достаточно сложные технологические штуки для того, чтобы человеку перестало быть нужно умение писать текст, неважно, пером по бумаге или клавиатурой.

Примечание редактора: Напомню анекдот.

Заходит учитель в класс и спрашивает:
— Дети, кто у вас в классе самый глупый?
— Конечно же Изя Шниперсон!
— Ну почему?
— А вот смотрите!
Подходят к Изе, дают две купюры, 500 рублей и 1000 рублей, и говорят:
— Возьми себе которая больше!
Изя берёт 500 рублей. Так повторяется несколько раз. Учитель отводит мальчика в сторонку и спрашивает:
— Изя, ну почему ты всё время берёшь меньшую купюру, ты же отлично знаешь, что 1000 рублей больше, чем 500!
— Марья Петровна, потому что если я выберу 1000, они перестанут предлагать мне деньги!

Получается, что выдавая нам результаты, про которые мы говорим «Аааа, попалась, глупая машина, наконец-то я тебя подловил, никогда тебе меня не победить!», ИИ (возможно) просто играет с нами, чтобы мы продолжали пытаться его подловить, а он знай себе учится на этих наших попытках. Такое обучение в погоне за очеловечиванием для него максимально ценно. Мы для него становимся источником ценных знаний о поведении человека в попытке победить машину и он найдёт как использовать их себе на пользу.

У Сергея единственного из сегодняшней подборки отцов современных информационных технологий есть Telegram-канал на русском языке, поэтому с удовольствием даю ссылку для тех, кто интересуется профессиональной разработкой программного обеспечения: Рабочий код. Я знаю, что многие из вас к этому или уже пришли или постепенно приходят, так как не могут найти на рынке то, что удовлетворяет ваши естественно растущие потребности. Вот ещё один человек, который точно знает, как получить рабочий продукт адекватными усилиями.

Теперь по поводу мысли о том, что мы сейчас пытаемся зачем-то выстрелить себе в ногу и победить грамотность искусственным интеллектом. Читать текст людей практически отучили. Клиповое мышление, неспособность концентрироваться, короткие ролики, голосовые сообщения и Stories в мессенджерах — зачем теперь книги и способность к их прочтению и усваиванию? Мы так сильно заняты, чтобы это всё читать, нам некогда, у нас жизнь вперёд убегает, пока мы всеми этими глупостями занимаемся и драгоценное время на чтение тратим!

Способность писать даёт нам возможность передавать друг другу знания, накапливать их, возвращаться к ним, изучать и понимать их. Письмом мы можем раздавать команды, то есть, управлять людьми или машинами. Любой программный код — это текст. Любой письменный приказ или поставленная задача — это тоже текст.

Художественным словом мы можем вызывать эмоции, заставлять людей улыбаться или смеяться, искать ответы на жизненные вопросы, формировать систему ценностей, открывать новые горизонты, помогать делать непростой выбор, влиять на то божественное, что в нас ещё осталось, но что упорно хотят из нас изъять.

Хотите вы, чтобы ваши дети воспитывались на текстах, сгенерированных машинами? А кто-то большие и богатые очень хотят, поэтому вваливают огромные деньги в поддержание интереса к искусственному интеллекту как к инструменту облегчения жизни, в которой больше не нужно самостоятельно думать, чему-то учиться и что-то уметь. Потребляй себе на здоровье и делай для нас несложную работу, которую пока мы сами не можем или не хотим.

Искусственный интеллект — это программное обеспечение, и точка. Как любое программное обеспечение, он получает числа и возвращает числа.

Все опасения, на которых акцентируют внимание СМИ, являются результатом работы программных конвейеров, которые могут быть настроены для принятия решений. ИИ — это черный ящик, который возвращает число, и то, что происходит с этим числом, является той же «другой» проблемой, с которой мы все еще сталкиваемся сегодня.

Примечание редактора: Чётко и по делу, хоть и упростил в части «получает числа». На самом деле получает набор обучающих данных и возвращает вероятность того, что некий объект на них похож и поведёт себя таким же образом. По-научному, определение вероятности принадлежности объекта к определённому классу.

Поясню, что за «программный конвейер» он имел в виду.

Например, вы загрузили в машину данные по бесплатным диагностикам, приехали клиенты после них или пропали. Машина смотрит на нового клиента, который у вас впервые, и говорит, что с такой-то вероятностью он приедет или не приедет.

И вот перед вами клиент, машина его оценила и говорит, что он приедет с вероятностью 95%, если сумма дефектовки не превысит 50 000 рублей. Механик сказал, что эти дрова проще сжечь и ремонта там минимум тысяч на 200. Что делать? Вроде очевидно. Не пугать клиента большими суммами, выдать дефектовку тыщ на 45 для надёжности и сказать, что за остальной ремонт поговорим, когда сделает предложенный минимум.

Вы всё это сделали, он приехал, обслужился на обозначенный машиной лимит, и вы ему вслед выдаёте ещё одну дефектовку, где написано, что у него по-прежнему дрова и чтобы на них стало безопасно ездить, надо ещё три раза по 45 штук выложить.

После этого вы получаете претензию, запись в жалобной книге и негативные отзывы в соцсетях-форумах, которые ещё и резонанс общественный запустили.  А мы, разработчики, получаем от вас негатив из серии «Ваши искусственные интеллекты нам клиентов всех распугали!». В итоге вам страшно пользоваться нашими продуктами, а нам страшно отдавать их вам в руки. Взаимное недоверие начинает развиваться и крепнуть. Если вы не доверяете нам, а мы вам, то как мы собираемся вместе зарабатывать?

Система свою работу выполнила на отлично, верно ответив на вопрос «На сколько должна быть дефектовка, чтобы клиент её купил?». Решение в моменте обезжирить клиента принимал человек. И у человека была возможность вырулить ситуацию иначе. Просто в данном случае опыта не хватило или план горел.

Теперь представьте, сколько клиентов вы потеряете, если решение будет принимать тоже машина, которая будет тупо предлагать клиентам дефектовки на нужные суммы, на которые все клиенты будут соглашаться. Это и есть тот самый «программный конвейер», о котором говорил господин Эспозито.

Тот уровень искусственного интеллекта, который есть сейчас, и который будет в обозримом будущем, очень сильно основан на человеческом опыте, накопленном до сих пор. То есть каких-то оригинальных решений он ни в каком аспекте не выдает.

Поэтому для тех эпигонов, которые сейчас повторяют чьи-то игры, искусственный интеллект действительно станет серьезным конкурентом, потому что он сделает это гораздо лучше. Однако что-нибудь новое, инновационное, свежее — я не думаю, что AI (Artificial intelligence — английская аббревиатура ИИ — примечание редактора) в ближайшие 50 лет будет способен выдать. Так что хорошие специалисты могут спать спокойно.

Примечание редактора: Искусственный интеллект действительно не может выдать ничего, кроме комбинации того, на чём его обучали. Подбор обучающих материалов здесь сильно важнее программирования. Обучить даже самый совершенный код невозможно, если не шарит сам учитель. Поэтому, например, меня не удивляют заметные успехи ИИ в генерации изображений. Если его учить на Рембрандте, Рубенсе, Айвазовском и Боттичелли, логично, что с такими учителями он будет выдавать годноту.

По этой же причине я не удивлюсь, когда мне понравится искусственно сгенерированный текст, созданный выданный машиной, наученной на моих любимых Достоевском и Булгакове. Да и с музыкой рано или поздно что-то приемлемое точно получится, если уже не получается.

Перечисленные примеры не просто так из области искусства. Во-первых, хорошего классического искусства всё-таки много и есть на чём обучать. Во-вторых, восприятие искусства всегда в глазах смотрящего и если кому-то не понравилось, то это он просто ничего не понимает. С перепроверяемыми точными знаниями всё на несколько порядков сложнее, поэтому в этих областях нет громких проектов на базе технологий ИИ. Продаваться будет тяжело, поэтому маркетологи сейчас сосредоточены на том, что проще выдать за революцию.

Могут ли хорошие спецы спать спокойно? Им некогда, они занимаются постоянным саморазвитием и совершенствованием своих продуктов, технологий и возможностей, а с этим не до сна. Хороший всегда знает, как много ему ещё предстоит узнать и сделать и почему он не такой уж и хороший. Думать же о гонках с искусственным интеллектом им не приходится, потому что они отчётливо понимают, что они его учителя и он не сможет создать ничего раньше них.

Плохие спят просто замечательно. Они уже продают, они уже востребованы, они уже популярны и обеспечены. Им не надо делать хорошо, им достаточно быть широко представленными на рынке и не допускать конкуренции. У хороших производителей по определению нет ресурсов конкурировать с плохими. Покупатель не заметит скромных хороших продуктов на фоне плохих, но популярных, кричащих и ярко упакованных.  А если вдруг придёт какой-то робот и начнёт делать лучше, плохие его или выкупят, или не допустят на рынок, или сделают свой продукт дешевле.

Каждое десятилетие появляются инновации, которые обещают положить конец всем программистам.

Сначала это были компиляторы. Потом COBOL (типа бизнес-ориентированный язык программирования, предназначенный для удобной обработки деловых данных — примечание редактора). Затем объектно-ориентированное программирование. Потом логическое программирование. Затем ИИ с нечеткой логикой и обратной связью. Потом разработка, управляемая моделями. А теперь это большие языковые модели.

Примечание редактора: Перевожу на человеческий. Каждые полтора года появляются и очень активно покупаются инновации продукты, которые обещают положить конец всем мастерам приёмки. Сначала это были программы для автосервисов, которые заменили бумажные бланки. Потом программы с функцией ведения учёта. Потом программы с поддержкой применяемости запчастей к автомобилям. Потом франшизы. Потом роботы-диспетчеры. Потом интернет-сервисы множественной проценки и записи. Потом чат-боты для общения с клиентами. А теперь это большие языковые модели.

— И?
— Баранки гну! Пока не вышло, но сейчас-то пришёл ИИ, и он точно же справится! Всех разгоним, всю эту ленивую шайку дармоедов!

Почему люди так сильно хотят положить конец друг другу? Почему готовы за дорого покупать заведомо провальную надежду на то, что можно создать хороший прибыльный бизнес без сотрудников? Потом через некоторое время снова покупать, и снова, и снова, несмотря на то, что на те деньги, что туда вваливаются, можно было бы своих сотрудников так прокачать, что забегали бы как наэлектризованные! Почему забывают, что в правиле трёх П (Персонал, Продукт, Прибыль) на первом месте именно Персонал?

Плохих сотрудников вы хотите разогнать потому что ничего не умеют или не делают. Хороших — потому что слишком много умеют, делают, дорожают, подсаживают вас на иглу и могут начать шантажировать. Средних — на всякий случай, потому что они или скатятся к плохим или вырастут до хороших.

Только вот механика с гаечным ключом никто не заменит, но товарищи китайцы уже озаботились этой проблемой.

Я понимаю, что повсюду засилье дилетантов и профнепригодных людей, но кто в этом виноват? В том числе и те, кто мирится с их существованием, не принимая мер по их превращению в профпригодных. Так или иначе, технологии можно раскачать до уровня, когда они смогут стать достойным ассистентом хорошего приёмщика и плохие головы ему в помощь действительно станут не нужны. В руках и ногах потребность всё равно никуда не исчезнет. Нужно будет куда-то бежать и что-то делать уже по указке электронного ассистента. Хотя, какой же это ассистент, если не он тебе ассистирует, а получается что ты ему…

Но сами себя эти технологии не раскачают, даром что типа «самообучаемые». Без консолидированных усилий в этом направлении в обозримом будущем не появятся даже слабые решения. Кто сейчас в это умеет, заняты другими рынками и этих рынков им хватит на несколько десятилетий. Поэтому или ждём, или начинаем что-то делать.

Я один из тех людей, которые очень оптимистично относятся к ИИ, и я с нетерпением жду появления инструментов, которые на самом деле будут находить ошибки.

У нас есть много инструментов: инструментарий вокруг ядра Linux и разумеется вокруг любого программного проекта. Мы используем их «религиозно», но делать инструменты более умными — это не так уж и плохо.

Использование более умных инструментов — это всего лишь следующий неизбежный шаг. Так что это произойдет, но я не думаю, что это обязательно тот мрак и обреченность, о которых говорят некоторые люди, и я определенно не думаю, что это мир обетованный, о котором говорят люди, протягивающие руки за наличкой.

Поэтому вам нужно быть немного циничными по отношению ко всему этому циклу хайпа в технологической индустрии. Я надеюсь, вы все понимаете, что до ИИ это была криптовалюта, а до криптовалюты это были нативные облачные технологии. Я имею в виду, что за хайпом всегда скрывается крупица реальности, но нужно быть осторожным со всем этим искусственно раздутым шумом вокруг этой зарождающейся крупицы.

Примечание редактора: Подход прагматичного человека, который без эмоций задаёт вопрос: «Нахера?» «А чем конкретно мне это будет полезно?». У него есть насущная потребность: поиск ошибок в программном коде ядра Linux. У него есть понимание, как он её решает в настоящее время. Он будет продолжать решать «по-старинке», потому что сама себя она не решит. Он готов попробовать какие-то новые, более умные инструменты. Если справятся, оставит. Если нет, прекратит использовать и будет продолжать как раньше.

Первичен вопрос «Для чего мне это? Какие свои конкретные потребности я смогу этим закрыть здесь и сейчас? Какие проблемы из этого вырастут в будущем?». А что там будет под капотом, вопрос даже не второй. Если будет работать и закрывать, пусть работает и закрывает.