Свой собственный ИИ в Firefox: Mozilla представила MemoryCache

cosmos1

Начинающий
Регистрация
Сообщения
15
Реакции
0
Новинка использует мощную модель GPT-4 и инструментарий privateGPT.
dp5yv7f8a10wc7bvdbocv6tkcuh3mv54.jpg

Mozilla выпустила экспериментальное расширение для браузера под названием MemoryCache . Оно включает в себя систему диалогов на основе машинного обучения, которая анализирует контент, просматриваемый пользователем. Эта система отличается от других AI-чатов тем, что она адаптируется к интересам пользователя, используя данные, важные для него, для формирования ответов на вопросы. Расширение распространяется по лицензии MPL и пока может быть установлено в Firefox только вручную через «about:debugging» с применением специального патча .

Все компоненты MemoryCache выполняются на системе пользователя и не требует подключения к внешним ресурсам. Основой знаний для MemoryCache служит модель GPT4All-J, обученная на обширных англоязычных данных, включая Pile, ShareGPT и Dolly. Модель доступна в различных вариантах, включая 3, 7 и 13 миллиардов параметров. Для работы с моделью используется инструмент privateGPT, предназначенный для эффективного использования больших языковых моделей на персональных компьютерах.

MemoryCache сохраняет просмотренные веб-страницы в локальный каталог «~/Downloads/MemoryCache», из которого затем их извлекает периодически запускаемый скрипт и передаёт в обработчик privateGPT (ingest.py) для дополнения имеющейся языковой модели. Таким образом, модель адаптируется к интересам пользователя и может использоваться для обсуждения просмотренного контента в текстовом чате с ботом. Пользователи могут вести диалог с AI-ботом на естественном языке, задавая вопросы о сохраненных страницах. Бот адаптируется к интересам пользователя и предоставляет ответы, используя локальные данные, без необходимости подключения к внешним источникам.
 

Mels

Начинающий
Регистрация
Сообщения
11
Реакции
0
Сохраняет просматриваемые страницы, чтобы товарищу майору удобнее было.
 

Lolipop

Начинающий
Регистрация
Сообщения
9
Реакции
0
О, бот работающий локально - это уже интересно.
Посмотрим на качество выдаваемых ответов.
 

DalDadl

Начинающий
Регистрация
Сообщения
12
Реакции
0
Это чтоб вопросов не возникало "куда оперативка девается")))
 

Chewbacca

Начинающий
Регистрация
Сообщения
12
Реакции
0
как заранее удалить? они же по умолчанию это воткнут
 

Викторович

Начинающий
Регистрация
Сообщения
16
Реакции
0
Мне одному не понятно, какое отношение к компоненту кэша браузера, размещамому в оперативе, имеет GPT? Не могла бы "ИИ компания" оптимизировать использование браузерного кэша, а заодно и кучи процесса, используя методы искуственного интеллекта, вместо страдания хернёй? Зачем мне в браузере llama, если для запуска самой минимальной модели мне приходится выгружать все процессы, включая X11?
 

Aquasonick

Начинающий
Регистрация
Сообщения
9
Реакции
0
Ждём сборок с выпиливанием этого добра. Unmozilled firefox по аналогии с ungoogled chromium
 

darknet

Начинающий
Регистрация
Сообщения
9
Реакции
0
Такая подозрительная активность должна отправлять целиком всё приложение в бан.
 
Сверху