«Ваши ученые так сильно беспокоились о своих талантах, что даже забыли подумать, стоит ли вообще это делать».

Эта цитата принадлежит доктору Иэну Малкольму (математику из «Парка юрского периода» в кожаном пиджаке), однако вполне применима не только к возрождению велоцирапторов, но и к недавнему взрыву популярности инструментов на основе ИИ.

На самом деле, современная ситуация с ИИ может быть даже более угрожающей, чем “Парк юрского периода”. По крайней мере, в фильме возвращение динозавров ограничилось одним островом и управлялось одной корпорацией. В нашей же реальности динозавры вырвались на свободу и с ними может поиграть любой желающий.

Спустя шесть месяцев после публичного релиза ChatGPT появилось множество браузерных расширений на основе ИИ. Их уже сотни — поищите по запросу «AI» в Chrome web store, и вы утомитесь скроллить, ещё не добравшись до конца списка.

Искусственный интеллект и машинное обучение взорвали информационную повестку в 2023-м году и продолжают удивлять. Бизнес стремится активно интегрировать максимально передовые нейросети в любые процессы, где ими можно эффективно заменить человека. При помощи Chat GPT и похожих продуктов создают контент, общаются с клиентами, рисуют дизайн и разрабатывают программное обеспечение. С 2021 первого года происходят попытки интеграции нейросетей в процесс создания промышленного кода и ускорения промышленного программирования.

В этой статье я расскажу о проблеме контроля над продвинутым искусственным интеллектом. Краткий обзор понятий и направлений исследований на эту злободневную тему.

Привет, Хабр! Меня зовут Арсений, я — тимлид в команде разработки инструментов разработчика KasperskyOS. Работа нашей команды заключается в том, чтобы делать жизнь разработчика ПО под нашу собственную микроядерную OS удобной, так что любые технологии, упрощающие жизнь разработчика, не оставляют нас равнодушными. Вместе со всеми мы следим за хайпом вокруг нейросетей и решили сделать небольшой обзор AI-плагинов автодополнения кода, которые каждый из нас может использовать уже сейчас.

В этой заметке попробуем сравнить следующие AI плагины VSCode:

• Copilot v1.84.61 — самый нашумевший робот
• Tabnine v3.6.45 — самый старый из трех и самый дорогой
• Codeium v1.2.11 — самый свежий и самый малоизвестный
• FauxPilot — Open source, self-hosted аналог Copilot, использующий модели от CodeGen; посмотрим, что может противопоставить коммерческим продуктам OSS-проект, развернутый на моем запечном сервере.

Статья может быть полезна любому разработчику, пишущему на одном из мейнстримовых языков программирования. Также можно рассматривать ее как источник идей — как использовать этих пока глуповатых, но усердных роботов.

Из каждого утюга слышно про внедрение ИИ в работу, но как это делать – не всегда понятно. Мы выяснили, как ChatGPT может помочь маркетологам, SEO- и SMM-специалистам. Если вы до сих пор думаете, что ИИ полезен только копирайтерам, и не не знаете, как использовать нейросеть в работе, то читайте наш материал и сохраняйте готовые промты.

1 Введение в Wi-Fi Eco-систему и инновационную программу лояльности "Nano Club" - Рекламная брошюра

2 Готовность конъюнктуры Стартап рынка

3 Приведу несколько примеров интернет-провайдеров, которые успешно реализуют бизнес-модель Wi-Fi сети с рекламной монетизацией:

4 Программы лояльности

5 В России есть несколько известных ритейлеров и разработчиков, которые успешно используют программы лояльности.

6 Вай фай 2.0. Будущее проектов, связанных с Wi-Fi сетями и рекламной монетизацией, представляется перспективным. Вот несколько аспектов, которые могут определить будущее этих проектов:

7 Для компаний, таких как Яндекс и ВКонтакте, проекты, связанные с Wi-Fi сетями и рекламной монетизацией, могут представлять интерес и быть пригодными по нескольким причинам...

8 Что касается эволюции и развития этих проектов, возможны следующие эволюционные решения и направления:
9 Бедные студенты
10 Вай фай бизнес эволюция
11 Интеграция вай-фай сетей с виртуальной реальностью (VR) и дополненной реальностью (AR)
12 Технологии и техника
13 Wi-Fi Intranet
14 Трудности
15 Основная идея - потенциал
16 Интеграция чипов
17 Интеграция с камерами наблюдения
18 Проект Starlink и эволюция в мире...
19 Будущее технологий за беспроводным интернетом. Это будущее может стоять за ИТ гигантами вроде Яндекса и ВК.
20 Как бы наши наработки выглядели в руках ИТ Гигантов
21 Развития проходного пути клиента в ритейле
22 ИИ в Ритейле
23 Развитие искусственного интеллекта (ИИ), Wi-fi и AR внесут значительные изменения в сфере строительства.
24 Wi- Fi / SCI - FI

Статья будет полезна тем, кто:

· Исследует возможности ChatGPT;

· Интересуется цифровизацией в ж/д логистике;

· Хочет узнать про процесс ремонта вагонов на ВРП.

Текст состоит из вступления, 7 вопросов и ответов на них с небольшими отступлениями и заключения.

Это – перевод первого из пяти постов Цепочки «Риски Выученной Оптимизации», основанной на статье «Риски Выученной Оптимизации в Продвинутых Системах Машинного Обучения» за авторством Эвана Хубингера, Криса ван Мервика, Владимира Микулика, Йоара Скалсе и Скотта Гаррабранта. Посты цепочки соответствуют разделам статьи.

Эван Хубингер, Крис ван Мервик, Владимир Микулик и Йоар Скалсе в равной степени вложились в эту цепочку. Они выражают благодарность Полу Кристиано, Эрику Дрекслеру, Робу Бенсинджеру, Яну Лейке, Рохину Шаху, Вильяму Сандерсу, Бак Шлегерис, Дэвиду Далримпле, Абраму Демски, Стюарту Армстронгу, Линде Линсфорс, Карлу Шульману, Тоби Орду, Кейт Вулвертон и всем остальным, предоставлявшим обратную связь на ранние версии этой цепочки.

Это – перевод второго из пяти постов Цепочки «Риски Выученной Оптимизации», основанной на статье «Риски Выученной Оптимизации в Продвинутых Системах Машинного Обучения» за авторством Эвана Хубингера, Криса ван Мервика, Владимира Микулика, Йоара Скалсе и Скотта Гаррабранта. Посты цепочки соответствуют разделам статьи.

В этом посте мы рассмотрим, как на вероятность того, что обучающая система создаст меса-оптимизатор, влияют два её компонента:

Привет, Хабр! Сегодня я хочу рассказать о нашем новом чат-боте ViTalk GPT. Он использует ИИ для генерации запросов на языке DAX, которые можно использовать в Visiology 3, причем учитывает не только особенности нашей платформы, но и контекст ваших запросов. О том как это работает, почему ViTalk GPT помогает переносить экспертизу не только из Power BI, в чем секрет создания “готовых” скриптов, которые можно просто вставлять в нужное поле в Visiology 3, и зачем вообще это нужно — читайте под катом.

Это – перевод третьего из пяти постов Цепочки «Риски Выученной Оптимизации», основанной на статье «Риски Выученной Оптимизации в Продвинутых Системах Машинного Обучения» за авторством Эвана Хубингера, Криса ван Мервика, Владимира Микулика, Йоара Скалсе и Скотта Гаррабранта. Посты цепочки соответствуют разделам статьи.

В этом посте мы обрисуем причины считать, что меса-оптимизатор может оптимизировать не ту же целевую функцию, что и его базовый оптимизатор. Машинное обучение даёт контроль над базовой целевой функцией – либо прямым определением функции вознаграждения, либо обучением её модели – но не даёт возможности напрямую определить выработанную меса-оптимизатором меса-цель. Мы называем эту задачу согласования меса-оптимизаторов с базовыми целями задачей внутреннего согласования. Она отделена от задачи внешнего согласования – удостовериться, что базовая цель соответствует намерениям программистов.

Нынешние методы машинного обучения отбирают обученные алгоритмы эмпирически оценивая их работу на наборе обучающих данных согласно базовой целевой функции. Таким образом базовые оптимизаторы отбирают меса-оптимизаторы по их выводам, а не напрямую по меса-целям. Более того, стратегия отобранного меса-оптимизатора должна хорошо работать (по оценке базовой цели) лишь на обучающих данных.Если мы примем предположение, что меса-оптимизатор вычисляет оптимальную стратегию для своей целевой функции, то мы можем описать отношение между базовой и меса- целями следующим образом: (17)

Θ^* = argmax_Θ E(O_base(π_Θ)), где

Это – перевод четвёртого из пяти постов Цепочки «Риски Выученной Оптимизации», основанной на статье «Риски Выученной Оптимизации в Продвинутых Системах Машинного Обучения» за авторством Эвана Хубингера, Криса ван Мервика, Владимира Микулика, Йоара Скалсе и Скотта Гаррабранта. Посты цепочки соответствуют разделам статьи.

Кажется правдоподобным, что при достаточном обучении в достаточно разнообразных окружениях базовая цель в какой-то момент будет полностью представлена в меса-оптимизаторе. Мы, однако, предполагаем, что это может произойти и без того, чтобы он стал устойчиво согласованным. Конкретнее, меса-оптимизатор может научиться моделировать базовую целевую функцию и учитывать, что если н плохо будет справляться с базовой целью, то базовый оптимизатор его модифицирует.

Если меса-оптимизатор имеет цель, выходящую за пределы обновлений параметров, то он будет иметь стимул избегать модификаций^[1], так как он может перестать преследовать ту же цель после модификации (и в результате его нынешняя цель не будет достигнута в будущих итерациях). Это означает, что меса-оптимизатор будет инструментально мотивирован действовать так, будто он оптимизирует базовую целевую функцию, несмотря на то, что его настоящая меса-цель совершенно иная. Мы будем называть это гипотетическое явление обманчивой согласованностью^[2]. Обманчивая согласованность – это форма инструментальной прокси-согласованности, так как выполнение базовой цели становится для меса-оптимизатора инструментальным.

Это – перевод последнего из пяти постов Цепочки «Риски Выученной Оптимизации», основанной на статье «Риски Выученной Оптимизации в Продвинутых Системах Машинного Обучения» за авторством Эвана Хубингера, Криса ван Мервика, Владимира Микулика, Йоара Скалсе и Скотта Гаррабранта. Посты цепочки соответствуют разделам статьи.

Рассказываем о нашем телеграм-боте, который воспринимает речь, сочиняет тексты, пишет код, делает лингвистические переводы, создаёт краткие обобщения, художественные изображения и решает задачи по различным дисциплинам. Предлагаем вам его протестировать — будем рады фидбэку.

OpenAI предоставляет мощные инструменты для работы с GPT-3 и GPT-4. Однако возможность подсчёта токенов реализована только для JavaScript и Python, что не покрывает всех возможных вариантов использования. В связи с этим я разработал универсальную библиотеку GPT-Tokenator для подсчёта токенов на C++, экспортировал функцию подсчёта токенов в C, что даёт возможность использовать её во многих языках программирования.