Helyi AI a saját gépeden: így futtass nyelvi modellt Ollamával, előfizetés és felhő nélkül
Egy nyelvi modell valójában egy fájl, amelyet a saját gépeden is futtathatsz: internet és előfizetés nélkül, úgy, hogy az adataid nem hagyják el a számítógépet. Megmutatjuk, milyen hardver kell hozzá, mit jelent a kvantálás és a GGUF, mivel indulj el, és hol vannak a korlátok.
· 14 perc olvasás