11 терминов из области ИИ, которые вы наверняка слышали: объясняем на пальцах
Следить за новостями об ИИ все труднее: технология обросла почти неразличимыми терминами. Даже президент США Дональд Трамп спрашивал у подписчиков, как называть «новый феномен». Мы собрали краткий глоссарий, чтобы вы не терялись в разговорах о сверхинтеллекте, выравнивании и вышедших из-под контроля агентах.
Следить за новостями об искусственном интеллекте становится все труднее. Мало того, что технология развивается с пугающей скоростью, так еще и появился жаргон, в котором сам черт ногу сломит.
Даже мы в подкасте Techinsider.ru «Мифологика» недавно очень долго выясняли, что такое Harness. Но эксперт все объяснил. Если вы путаетесь в терминах вроде «выравнивание», «выход из-под контроля» и прочих, этот материал поможет разобраться.
Что такое модель ИИ
Начнем с основы. Модель ИИ — это программа, «обученная на данных распознавать закономерности или принимать решения без вмешательства человека», как объясняет IBM. Именно поэтому компаниям, работающим с ИИ, нужны огромные наборы данных: чтобы обучить алгоритмы «понимать», как ведут себя люди.
Nvidia, производящая чипы для ИИ, описывает модель как «двигатель рассуждений: он обрабатывает входные данные и генерирует выходные». Проще говоря, это мозг, который получает информацию и выдает результат.
Большие языковые модели (LLM)
LLM — это разновидность модели ИИ. Институт человеко-центричного ИИ Стэнфордского университета (HAI) описывает их как «тип искусственного интеллекта, обученный на огромных объемах текста для понимания, обобщения, перевода и генерации человекоподобного языка».
Важно понимать: LLM хороши ровно настолько, насколько хороши данные, на которых они учились, и любые предубеждения в этих данных они усиливают. ChatGPT — один из примеров. Как писал ученый Стивен Вольфрам, «ChatGPT всегда фундаментально пытается… продолжить текст наиболее разумным образом».
ИИ-агенты
Это уже следующий уровень. Агенты «полу- или полностью автономны и способны воспринимать, рассуждать и действовать самостоятельно». По данным Массачусетского технологического института, ИИ-агенты идут дальше простых чат-ботов, отвечающих на вопросы: они могут «интегрироваться с другими программными системами для выполнения задач независимо или с минимальным участием человека».
Когда главы технологических гигантов говорят, что у каждого скоро будет «способный персональный» агент, они имеют в виду именно это.