Магия Mixture of Experts: Локальная LLM на 35 млрд параметров

Что если мощный искусственный интеллект сможет работать на вашем ПК без тормозов? В этом видео мы разберем новую локальную LLM с архитектурой Mixture of Experts смесь экспертов.
Эта нейросеть хранит знания 35 млрд параметров но использует всего 3 млрд для быстрых ответов. Вы узнаете как запустить гигантскую модель даже если у вас не хватает видеопамяти и карточка на 80 ГБ сгибается под весом ИИ.
Мы применим хитрости настройки контекста чтобы снять ограничения железа.
Я покажу как этот AI-агент пишет чистый код с первой попытки переводит тексты и обладает потрясающим зрением для анализа старых изображений. Погружаемся в магию новых нейросетей на канале YAinvest AI.
Наливайте чай будет очень интересно а если вам нужен собственный AI-агент обращайтесь помогу собрать под ваши нужды! 00:00 - Вступление: Искусственный интеллект и эпоха закрытых нейросетей.
01:05 - Архитектура Mixture of Experts: Локальные LLM на 35 млрд параметров.
02:10 - Проблема видеопамяти: Как запустить гигантскую нейросеть на ПК.
03:15 - Оптимизация ИИ: Настройка контекста и решение проблем с VRAM.
04:20 - Генерация кода и перевод: Тестируем локальные AI агенты.
05:30 - Компьютерное зрение: Как AI анализирует старые изображения. Подписывайтесь на YAinvest AI чтобы не пропускать регулярные порции знаний об искусственном интеллекте! Группа моего проекта Если вам нужен AI - агент мой личный контакт для связи



Видео подборки:

Похожее видео

Данную страницу никто не комментировал. Вы можете стать первым.
Введите символы или вычислите пример:
captcha

⇒Расскажите об этом видео Магия Mixture of Experts: Локальная LLM на 35 млрд параметров, своим друзьям в социальных сетях.


Ссылка на страницу с видео:

HTML-ссылка на страницу с видео:

Код для вставки плеера:

*16 Ноября 2022, 14:14 | Михал Пишет: Жаль, что не вышло в серийное производство. Хотя может в то время люди ещё не были готовы к подобным "экземплярам" авто. Сейчас уже что-то подобное можно представить (а может уже где-то и есть), но в те времена это мне напомнило... Подробнее...


*15 Ноября 2022, 21:04 | Анна Пишет: Нравится мне пеночка, это видео расширило мне понимание о ней. Ребятам тоже понравится, если такое включить. Диктор хорошо говорит, понятно, заинтересовывает рассказом. Видеоряд подобран классно. ... Подробнее...


*18 Ноября 2022, 15:08 | Алина Пишет: Он очень большой судя по людям, которые стоят рядом, а также, наверное, очень мощный и очень вместительный. Он навевает о довоенной эпохе, которую показывают в старых советских фильмах.... Подробнее...


*16 Ноября 2022, 23:34 | Ольга Пишет: Умели же делать тогда, обидно, что так и не дошло в производство. Сейчас таким конечно уже врят ли удивишь, но в то время эта машина была бы точно популярна.... Подробнее...


*15 Ноября 2022, 20:24 | Александр Пишет: Вот бы на такой прокатиться, шикарная! Наверное интересные ощущения будут если сейчас на ней проехаться) Интересно такие на ходу ещё остались или только в музеях!?! Хотя раньше делали на совесть, так что, вполне возможно! ... Подробнее...


*15 Ноября 2022, 21:01 | Егор Пишет: Как будто перенесся в те времена, когда снимали "Кавказскую пленницу" Прямо ностальгия захватила, а перед глазами пронеслись кадры из фильма. Спасибо за такой классный ролик!... Подробнее...


*16 Ноября 2022, 06:17 | Виктор Пишет: Интересная видео, только концовка все-таки не совсем понятна. Кстати, девушке не очень-то подходит этот голос, либо она просто не достаточно хорошо попадает в слова. В целом - неплохо.... Подробнее...


*15 Ноября 2022, 20:58 | Соня Пишет: Классная машинка. Мне очень нравится модель. Стильно выглядит и при этом ретро. Все как я люблю. Конечно, хотела бы прокататься на такой, а ещё лучше иметь у себя в гараже. Ценный раритет. ... Подробнее...