Искусственный интеллект

14 декабря OpenAI опубликовали статью, в которой показывают, что люди смогут улучшать полезность потенциально созданного в будущем сверх-интеллекта несмотря на то, что будут глупее него. При этом, судя по всему, людям будет очень сложно оценивать ответы сильного ИИ,и RLHF в нынешнем его виде будет работать не слишком хорошо.

Недавно на Хабре вышел перевод статьи под названием: "Классическое программирование на грани вымирания" с постапокалиптической картинкой, где автор буквально пишет, что "Приближается конец эпохи классических компьютерных наук, и большинство из нас словно динозавры в ожидании падения метеорита". Если коротко, данная статья о том, что классические компьютерные науки становятся менее актуальными на фоне развития искусственного интеллекта и современных технологий. Автор рассказывает о своем опыте в области компьютерных наук, полученном в 80-х и 90-х годах, и подчеркивает, что, несмотря на то что классические подходы к программированию и алгоритмам всё еще актуальны, но в будущем (горизонт автор не указывает), скорее всего, ИИ с самообучаемыми системами заменит программистов. В будущем студентам факультетов компьютерных наук не нужно будет изучать традиционные навыки, такие как работа с двоичными деревьями или программирование на С++, обучение таким вещам станет неактуальным, потому что от инженеров будущего будет требоваться обучение и запуск генеративных моделей.

Я читаю Хабр довольно давно и очень люблю этот ресурс. При этом здесь регулярно возникают статьи, типа "Если хочешь программировать, начни с языка Си" или наоборот, "Python - это простой язык, с которым любой идиот может разобраться" (статьи такой направленности иногда нещадно минусуют). Есть также и третья категория статей о том, что программисты скоро станут попросту не нужны (как статья, которая недавно опубликована).

Тема искусственного интеллекта нас не отпускает: технологии набирают обороты прямо на глазах пользователей, да и вообще, они давно перестали быть «кабинетными».

Попросить умного помощника вызвать такси или же самому быстро сгенерировать иллюстрацию в каком-нибудь сервисе теперь может любой владелец среднестатистического гаджета. Но не каждый знает, что за этим стоит и на что еще способен ИИ.

В предыдущей статье мы заглянули в будущее, а сегодня посмотрим на реализованные кейсы.

Как «широко известно», не только в нашем всеми любимом великом Нейромаркетинге, но и в среде всяких психологов и логопедов, для того, чтобы человека малого возраста (ребёнка по паспорту, в частности) научить чему-то умному и полезному, это должно быть приятно (например, нужна геймификация, если на языке IT попытаться говорить). Сразу предупрежу, что для меня Хабр в этом (не только вообще) — почти идол.  Мы будем понимать с вами сейчас далее вместе тут поэтому проект с ТЗ «translation with pleasure» через ИИ, чтобы сделать максимально уникальный продукт и патент потом второй с вами. Ведь более половины всех конфликтов на земле — это всего лишь только непонимание языка и посыла собеседника.

Для почти честного пояснения и понимания сути разработки продукта, следует сразу выделить 4 реально работающих мотивации максимального овладения любым языком: 1. Нужен он, чтобы выжить и просить у «мамы» кушоц и т.д. (это в том числе в своей семье в раннем детстве, садике или на улице тоже потом); 2. Нужно им владеть, чтобы получить больше денег для работы, общения с партнёрами, карьеры или строчек в резюме; 3. Хочется с пониманием жить с половым партнёром или другом (примеры) — самый благородный вариант (по любви с языком получается, без меркантильности); 4. Ты стал(а) студентом(кой) какой-то любимой языковой специальности уже в ВУЗе, обратной дороги нет, это судьба, карма и призвание, знай.

При этом, всегда, когда мы, даже уже нечаянные или специальные билингвы, начинаем изучать новый язык, то уподобляемся ребёночку лет 2-22, в зависимости от того, какой уровень есть уже и какой нам нужен в важном будущем. Но всё равно, на начальных этапах обучать владению языку даже дедулю или иного взрослого не в игровой и иной недетской противной форме — это только портить мотивацию и резко снижать качество усвоения новой живой информации. Вообще, я должен честно признаться: всё, что делает любой продукт качественным, особенно ИИ и языковые курсы — это просто ещё больше психотерапии (доброго отношения) и приятности с полезностью для обучаемых, пользователей и покупателей.

Представляю вашему вниманию перевод интересной на мой взгляд статьи «Language models are multiverse generators», размещённой на сайте generative.ink 25 января 2021 г. Это упрощённое изложение научной публикации Ларии Рейнолдс и Кайла Макдонелла «Multiversal views on language models», в которой проводятся параллели между ветвящейся структурой мультивселенной Эверетта, генеративными языковыми моделями наподобие GPT и работой мозга как генератора виртуальной реальности. Автор сайта разработала программу Loom Space, использующую нейросеть GPT-3 для моделирования мультивселенной естественного языка. Её интерфейс может быть полезен для совместного написания с языковой моделью, а также для научно-популярных задач, таких как мозговой штурм и разработка промптов.

Статья сложная, поэтому я рекомендую для лучшего понимания основной мысли прочитать небольшой рассказ Хорхе Луиса Борхеса «Сад расходящихся тропок» (1941) - одно из первых литературных изложений идеи мультивселенной. «Сад расходящихся тропок» - вымышленный роман Цюй Пэна, в котором, как в лабиринте, ветвятся и переплетаются реальности, когда герой выбирает одновременно все находящиеся перед ним возможности. Цюй Пэн не верил в единую временную линию, а представлял себе сеть бесчисленных временных рядов. Поэтому он ни разу не употребил в романе слово «время», которое является ответом на загаданную автором загадку.

Устная речь человека — уникальная по своей сложности система коммуникации. Ещё не изучено полностью, как язык работает на уровне человеческого мозга. Но мы знаем, как его осваивают дети, и с появлением технологий глубокого обучения (deep learning) мы впервые можем смоделировать этот процесс. Мы можем создать самообучаемую модель генеративного ИИ, которая изучает язык через звуки, а не текст. В этом посте мы чуть подробней рассмотрим этот подход к нейросетям, его целесообразность и перспективы.

Когда количество восторженных возгласов о возможностях AI из каждого утюга превысило мою возможность сопротивляться, я решил проверить, действительно ли AI может помочь мне?

С каждым днем количество нейросетей и сервисов с ИИ увеличивается. Наиболее популярным в настоящее время является ChatGPT, однако конкуренты не отстают. Каждая нейросеть обладает своими уникальными преимуществами в решении определенных задач. Но есть одно универсальное решение — ChatALL.

ChatALL — это бесплатная программа с открытым исходным кодом, которая может отправлять запросы нескольким ботам с искусственным интеллектом одновременно, помогая находить наилучшие результаты. Это просто браузер с интерфейсом, который дает возможность залогиниться в разных сервисах, а потом отправлять в них запросы.

AI-хайп, честно говоря, слегка задолбал. Кажется, что все вокруг только и делают, что оптимизируют свою работу с помощью AI и в ус не дуют. Все эти возвышенные презентации про amazing и awesome инновации от людей, которые слабо себе представляют, чем энкодер отличается от декодера и почему трансформеры в нейросетях не сражаются с автоботами, мало того, что набивают оскомину и отнимают время, так еще и погружают в грёзы бизнес-руководителей и создают крайне завышенные ожидания.

Вспоминаю, как на одном обмене опытом со стартапами они чётко делились на 2 группы: первая – с менеджерами про невероятные инновации и всеобщее благоденствие, а вторая – с инженерами, которые с красными глазами рассказывали, что так и не смогли победить галлюцинации, что окно контекста заканчивается очень быстро и что для того, чтобы на нормальном продакшн использовании вся эта магия заработала, нужны огромные инвестиции в инфраструктуру, оркестратор, агенты, векторные базы, кратковременную и долговременную память и так далее. Поэтому хотелось собрать в одном месте понятное руководство и для разработчиков, пробующих LLM-ки для своих задач, и для людей из бизнеса, чтобы погрузить в контекст.

Несколько дней назад я решал задачу подключения Yandex GPT, и главной сложностью там было освоение Yandex Cloud Console. В остальном API - вылитая LLaMa 2.

С Google Gemini история иная. Документация консоли содержит те самые вставки "New to Google Cloud", отсутствие которых вдохновило меня писать про Yandex GPT. При работе с консолью есть нюансы, их и выделим ниже по тексту. Но в целом, можно просто следовать документации, и всё получится.

В Google Cloud теперь доступны два пространства, с которых можно начинать: Vertex AI Studio и Model Garden. Первая предназначена для экспериментов с моделями и отладки промптов. А вторая - библиотека моделей, где всего их на сегодня 56, среди них упомянутая LLaMa 2, PaLM 2, знаменитый тем, что на нём работет Google Bard и, возможно, скоро мы увидим прорыв в медконсультировании Med PaLM 2, Gemini Pro. Мы сегодня коснёмся только Gemini Pro Vision, поскольку именно она заявлена как главный прорыв.

Подключить модель просто, весь процесс состоит из четырёх шагов.

Корпорация Google совсем недавно представила мультимодальную модель ИИ, которую называет конкурентом GPT-4 от OpenAI. Она умеет обрабатывать текстовую, аудиоинформацию, изображения и видео. На первый взгляд, проект действительно мощный, но, как оказалось, у него немало и недостатков. Подробности — под катом.

У меня, как и у многих, довольно много чатов в телеграмме. Иногда просто нет времени (а иногда и не хочется) отвечать на некоторые сообщения. Именно так возникла идея создания виртуального клона. В статье рассматривается простая идея, состоящая в том, чтобы зафайнтюнить языковую модель на личных сообщениях, выгруженных из Telegram-чатов. Возможно, в дальнейшем такой клон сможет общаться за вас

С момента запуска GigaChat прошло около полугода, и за это время у нас появилось более полутора миллионов пользователей. Они активно используют нейросетевые технологии как в работе, так и для развлечения. От пользователей поступают разнообразные запросы: от просьбы сделать краткую выжимку из текста письма до срочного написания поэмы на день рождения коллеги-тестировщика. Мы всегда учитываем обратную связь, которая помогает нам развиваться и внедрять новые идеи.

За последнее время нами были выпущены новые модели и добавлены новые функциональные возможности в сервис. А теперь мы представляем новую нейросетевую модель, у которой более 29 миллиардов параметров. Она успешно прошла тест на ЕГЭ и показала отличные результаты в сравнении с другими системами. Если вы только начинаете интересоваться новыми технологиями в области искусственного интеллекта, то имейте в виду, именно они в ближайшие годы будут формировать наше с вами будущее и давать преимущество тем, кто ими владеет. Давайте познакомимся с ними поближе.

Искусственный интеллект «прописался» в новостных заголовках последних лет преимущественно благодаря большим языковым моделям, способным генерировать много различного «вирального» контента. Между тем в других сферах подобные технологии уже давно производят тихие революции. Например, в медицине. Разбираемся, в каких направлениях медицины и каким образом ИИ поможет человечеству стать более здоровым. 

11 декабря 2023 года Mistral AI, парижский ai-стартап, основанный 7 месяцев назад, выпустил новую модель Mixtral 8x7B – high-quality sparse mixture of experts model (SMoE). Многие считают модели Mistral AI самыми крутыми из открытых llm-ок, я тоже так считаю, поэтому интерес к новой модели есть большой. В этой статье я хочу коротко пробежаться по тому, как устроена новая модель и какие у её архитектуры преимущества. На некоторых технических моментах я буду останавливаться более подробно, на некоторых – менее.