LLM za dokumente in emaile

Pozdravljeni

A kdo od vas uporablja oz. je lokalno nastavil kakega od LLM AI chat botov, ki gre skozi vse lokalne dokumente (Word, Excel, PDFi) in emaile (Outlook pst) in bi ti potem podajal odgovore in linke do teh dokumentov?
A je kaj takega trenutno sploh mogoče? Kako zmogljiv pc rabiš za to?

Jaz sem si postavil vse skupaj na pythonu, naredil svoj LLM in svojega chatbota za to, ki teče samo na moji mašini in nima dostopa do neta.
Računalnik je pa Lenovo workstation P720 z 2x intel xeon platinum 8160 (skupaj 48 jeder in 96 niti), 384GB DDR4 ECC rama (12 x 32GB) in RTX 3090 z 24GB rama, pa nadgrajen napajalnik na 900W in nadgrajena CPU hladilnika (kupljena nova za workstation P920, pa pašeta tudi na P720), 2x 1TB NVME disk, 2x 2TB SSD disk in 2x 8TB HDD, vsak disk NVME in SSD je v stripingu z enakim, da imajo večje hitrosti. Za backup sta pa še 2 diska po 8TB v mirrorju.

Če kdo ponudi dobro ceno, ga tudi prodam - računalnik, ne LLM.

Well, I guess I need to consult you for my self-assessment next time!