ВНИМАНИЕ!
Наша конференция посвящена космической тематике и компьютерным играм.
Политические вопросы и происходящие в мире события в данный момент на нашем сайте не обсуждаются!
|
| » Нейросети | страница 1 |
  |
Страница 1 из 1
|
|
|
|
|
Железный канал: «Нейросети» |
|
|
|
Paranid Parazite
 558 EGP
  
Рейтинг канала: 1(6)
Репутация: 133
Сообщения: 1676
Зарегистрирован: 04.10.2003
   |
|
Читал пару статеек с Хабра о запуске речевых моделей локально
типа такого
Я так понимаю, та же Альпака может быть запущена локально и даже имеет неплохую базу знаний, но её надо обучать под свои нужды.
Какие есть способы для реального в домашних условиях и с (около)нулевым бюджетом для обучения чатбота нужным мне запросам? Например, есть глобальные задачи натаскать нейросеть отвечать на определённый перечень вопросов текстом; или сделать её больше ориетированной на пошаговые инструкции по Excel или ещё какая-то специфическая задача?
Ну и про Альпаку. Единственная ли это нейросеть, доступная для запуска локально за счёт ОЗУ (например, имею ноутбук, где много оперативки, но не самое мозное видео)?
Также интересуют примеры реального применения в работе или в быту нейросетей-чатботов, чисто как готовых проектов (не только для генерации воды для научных работ). Что интересного удавалось реализовать путём собственноручного обучения сети? Что до вас никто не додумывался делать с помощью того же ГоПоТы?
У меня-то есть и конкретные задачи, но может, мне что-то даже не приходит в голову делать с помозью нейросети...
_________________
I load lead inside my engine—lead and alcohol © Vacuum |
|
|
|
AlexYar
 2005 EGP
        
Рейтинг канала: 3(49)
Репутация: 323
Сообщения: 33681
Зарегистрирован: 26.10.2003
|
|
Сбросил биос в дефолт, соот-но отключился режим "разгона" проца, и частота оперативы с 3600 упала до 2666.
И скорость загрузки моделей в нейросетку увеличилась процентов на 30-40 
Это чего за прикол такой? На 3600 частоте память медленнее работает чтоль?
добавлено спустя 3 минуты:
В SD модели грузятся одновременно и в видео и в оперативную память (1-для непосредственно работы, 2-для кеша, чтобы потом грузилась быстрее в видеопамять, если потребуется снова после переключения на другие модели).
Последний раз редактировалось: AlexYar (22:42 09-12-2025), всего редактировалось 1 раз |
|
|
|
Grebomet
 1497 EGP
   
Рейтинг канала: 8(784)
Репутация: 263
Сообщения: 4819
Откуда: Питербурх
Зарегистрирован: 06.01.2003
|
|
| AlexYar : |
|
Это чего за прикол такой? На 3600 частоте память медленнее работает чтоль?
|
Так надо тайминги смотреть, а не только частоты. Все вот эти CL, RAS и что там еще. А то частоту работы памяти ты поднял на одну треть, а тайминги при этом выросли, например, в два раза. И получается, что процессор ждет в два раза дольше, пока память станет готова, а потом на 1/3 быстрее получает из нее данные.
Для нейросеток производительность памяти важна, там же ж вычислительные операции относительно простые. Зато объемы данных большие.
_________________
Классическая ошибка, которую совершают проектировщики абсолютно надежных систем, – недооценка изобретательности клинических идиотов.
Последний раз редактировалось: Grebomet (13:39 06-02-2026), всего редактировалось 1 раз |
|
|
|
OLCHA
 826 EGP
  
Рейтинг канала: 3(36)
Репутация: 190
Сообщения: 1821
Откуда: Krasnodar&Moskva
Зарегистрирован: 27.02.2001
|
|
| Grebomet : |
| AlexYar : |
|
Это чего за прикол такой? На 3600 частоте память медленнее работает чтоль?
|
Так надо тайминги смотреть...
|
я там разве не эксенпи профили рулят?
Я имею в виду когда на автомате сбрасываются в дефолт.
Ручками, понятно, можно много чего поджать в зависимости от самих модулей.
_________________
С ув. Ольха.
=================================
каждый в своем направлении,каждый в своё время...
Из прошлого надо брать огонь, а не пепел... |
|
|
|
Grebomet
1497 EGP
Рейтинг канала: 8(784)
Репутация: 263
Сообщения: 4819
Откуда: Питербурх
Зарегистрирован: 06.01.2003
|
|
| OLCHA : |
|
я там разве не эксенпи профили рулят?
|
Когда в дефолт сбрасывается, думаю, от биоса материнки зависит, как она тайминги выставляет. У меня, например, на АСУСе после скидывания биоса даже XMP профили не используются, только то, что в стандартных профилях.
_________________
Классическая ошибка, которую совершают проектировщики абсолютно надежных систем, – недооценка изобретательности клинических идиотов. |
|
|
|
AlexYar
2005 EGP
Рейтинг канала: 3(49)
Репутация: 323
Сообщения: 33681
Зарегистрирован: 26.10.2003
|
|
Если кто-то до сих пор сидит на автоматик1111-интерфейсе - переходите на ComfyUI без размышлений. Гораздо быстрее работает, и удобнее в тыщу раз. Он как детсткий конструктор, где всё из модулей(нод) собирается, потом проводками соединяется. И плагины легко и удобно устанавливаются. Скачали откуда-то готовый чертёж-схему (workflow), Комфи сам определит недостающие модули и скачает с Гитхаба. Даже современные модели тяжёлые на десятки гигабайт работают с небольшими объёмами видеопамяти (8-12), что на автоматике1111 невозможно (там модель сперва целиком пытается в видеопамять загрузиться, и если не влезает - выдаст ошибку).
Ну и плюс возможность работать с разными типами моделей или даже с несколькими одновременно, просто переключив workflow или вкладку. В сети уже есть много готовых чертежей(workflow) под конкретные задачи, особо искать не придётся. Обработка аудио и картинок пойдёт даже на среднем компе, для видео же нужно комп специально собирать с кучей оперативы и видеопамяти (иначе будет оооочень долго делаться), но короткие ролики простые (типа оживления фотографий) секунд на 3-10 делать можно и на средних компах.
Если sd15 и SDXL уже кажутся слишком хреновыми по качеству, переходите сразу на ZIT (z-image turbo), он по скорости генерации сопоставим и результаты выдаёт очень неплохие. Krea2-turbo даст лучшее качество, но из доступных моделей популярных работает медленнее всех (не считая flux). Pony/Illustrius где-то посерёдке, ближе к SDXL, на основе которого они сделаны.
Такие задачи, как заменить лицо на фотке, поставить в нужную позу или сделать стилизацию фотографии (например, фотку жены сделать как картину средних веков со сменой её наряда и причёски) - это для нейросетей как семечки щёлкать (в той же телеге подобной рекламы от мошенников навалом, вы можете сами делать такие фотки себе). Современные модели уже научились и пальцы правильно рисовать, и текст. До реальных фоток ещё далеко (спец.детекторами можно всё ещё определить, что результат сделан нейросетью, да и на глаз можно определить, если опыт уже приличный), поэтому не замышляйте недобрых намерений.
зыж Не гнушайтесь прибегать к помощи ИИ (гугловского или других), он знает очень много по нейросетям, поможет и с настройкой нужных схем, и ссылки на нужные модели и чертежи найдёт. Эти ИИ давно уже научились анализировать и файлы чертежей, и изображение картинок, и даже умеют смотреть фильмы, понимать их содержание и смысл по видео и аудио ряду. Не говоря уже о том, что уже более половина контента на том же ютубе сделана ИИ под видом людских аккаунтов  И музыка, и короткометражные фильмы, и всякий плоскоземельный бред, и всё остальное (всё, что востребовано зрителем).
Если что-то не получается с генерацией - можете просто прислать ИИ картинку с выхода и чертёж, с которым работаете (если не секрет), и он подскажет, что именно в ваших настройках подкрутить, и как промт поменять, чтобы результат был ближе к задуманному. Если есть ошибки в схеме - он сразу их найдёт и скажет, как исправить. Если КомфиУи выдаёт ошибки в логах - он так же проанализирует и скажет, как исправить. Сэкономите себе десятки часов проб и ошибок.
Кстати, современные модели нейросетей научились понимать промты на русском языке, что значительно упрощает работу для тех, кто не знает английского.
зыж2 И если вдруг кто не в курсе, прямо в фаерфоксе свежих версий появился встроенный ИИ-переводчик по адресу about:translations, который может работать оффлайн, не надо в гуглоперевод лезть. Один раз что-то переведите с нужного языка и обратно, чтобы он скачал эти модели языковые, и дальше будет работать и оффлайн.
Последний раз редактировалось: AlexYar (08:42 03-09-2026), всего редактировалось 1 раз |
|
|
|
za4ot
593 EGP
   
Рейтинг канала: 5(146)
Репутация: 19
Сообщения: 3736
Откуда: Яма Изобилия
Зарегистрирован: 08.08.2012
|
|
А оно нам надо?
_________________
Пираты - наше всё! |
|
|
|
|
|
|
|
|
Железный канал: «Нейросети» |
|
|
| К списку каналов | Наверх страницы |
Цитата не в тему: У меня постоянно крадут идеи. Причем некоторые пользуются для этого машиной времени. (пожаловался BuH)
|
| » Нейросети | страница 1 |
|
