Slae.ruИИ на домашнем ПК: Квантование нейросетей и локальные LLM llM нейросети localllM
Канал: Что если божественный искусственный интеллект можно запустить прямо на вашем домашнем ПК без дорогих серверных видеокарт? Локальные LLM и квантование нейросетей делают эту магию доступной каждому! В этом видео я расскажу как хитрая оптимизация сжимает гигантскую модель с 65 ГБ до 24 ГБ переводя 16-битные числа в 4-битные.
Мы сравним бескомпромиссную мощь полноразмерного ИИ и его сжатую версию в трех тестах: создание игры с нуля перевод на 80 языков и компьютерное зрение.
Вы узнаете почему уменьшенные нейросети иногда галлюцинируют забывая важные механики кода или выдумывая несуществующие символы на картинках.
Погружаемся в мир умных технологий на канале YAinvest.
Наливайте чай будет очень интересно а если вам нужен собственный AI-агент обращайтесь помогу собрать под ваши нужды!
00:00 - Вступление: Искусственный интеллект и божественная мощь серверов.
01:10 - Кузница Сварога: Почему для запуска ИИ нужно 68 ГБ видеопамяти.
02:00 - Квантование нейросетей: Мудрость Василисы и сжатие ИИ до 24 ГБ.
03:15 - Создание игр ИИ: Тестируем генерацию кода на Сапере.
04:30 - Перевод текстов нейросетью: Ошибки и потеря контекста.
05:40 - Компьютерное зрение: Как ИИ ищет водяные знаки и галлюцинирует.
06:50 - Выводы: Какую локальную LLM выбрать для домашнего ПК.
Подписывайтесь на YAinvest AI чтобы не пропускать регулярные порции знаний об искусственном интеллекте! Группа моего проекта Если вам нужен AI - агент мой личный контакт для связи
Похожее видео
⇒Расскажите об этом видео ИИ на домашнем ПК: Квантование нейросетей и локальные LLM llM нейросети localllM, своим друзьям в социальных сетях.
Ссылка на страницу с видео:
HTML-ссылка на страницу с видео:
Код для вставки плеера:*16 Ноября 2022, 01:01 | Алина Пишет: Какая она красивая внутри! Как новенькая, не смотря на почтенный возраст)) Видно, что реставрировали с любовь, очень детально, аккуратно и дорого. Красивый необычный цвет, кстати.... Подробнее...
*16 Ноября 2022, 14:14 | Михал Пишет: Жаль, что не вышло в серийное производство. Хотя может в то время люди ещё не были готовы к подобным "экземплярам" авто. Сейчас уже что-то подобное можно представить (а может уже где-то и есть), но в те времена это мне напомнило... Подробнее...
*16 Ноября 2022, 20:18 | Олег К. Пишет: Обычная ситуация, когда именно трамвай транспортирует другой трамвай с поломкой в депо. Есть специальная техпомощь на рельсах, но в данном случае в ее роли выступил пассажирский трамвайчик. ... Подробнее...
*18 Ноября 2022, 15:08 | Алина Пишет: Он очень большой судя по людям, которые стоят рядом, а также, наверное, очень мощный и очень вместительный. Он навевает о довоенной эпохе, которую показывают в старых советских фильмах.... Подробнее...
*16 Ноября 2022, 09:33 | Роман Пишет: Ох, сколько разных мнение о данном авто) В целом машинка не плохая и даже ее двигатель сделан качественно. Подходит девушкам и пенсионерам которые не требовательны к габаритам и марки авто.... Подробнее...
*16 Ноября 2022, 06:17 | Виктор Пишет: Интересная видео, только концовка все-таки не совсем понятна. Кстати, девушке не очень-то подходит этот голос, либо она просто не достаточно хорошо попадает в слова. В целом - неплохо.... Подробнее...
*15 Ноября 2022, 20:49 | Катя Пишет: Как интересно придумано, не только автомобили и мотоциклы на выставке, но и дополнительный антураж, что создает уже совершенно другую обстановку в музее. Но и за подарочек спасибо)... Подробнее...
*15 Ноября 2022, 21:04 | Анна Пишет: Нравится мне пеночка, это видео расширило мне понимание о ней. Ребятам тоже понравится, если такое включить. Диктор хорошо говорит, понятно, заинтересовывает рассказом. Видеоряд подобран классно. ... Подробнее...