Czym są nieocenzurowane modele LLM?

Nieocenzurowane modele LLM to modele językowe o otwartych wagach, które zostały zmodyfikowane w celu ograniczenia części zachowań polegających na odmawianiu odpowiedzi, spotykanych w standardowych asystentach AI. Dają one użytkownikowi większą kontrolę nad zachowaniem modelu, co czyni je szczególnie istotnymi dla osób uruchamiających i eksperymentujących z modelami LLM lokalnie.

Czym są nieocenzurowane modele LLM?

Większość współczesnych asystentów AI jest trenowana tak, aby przestrzegać zasad bezpieczeństwa i odmawiać realizacji niektórych żądań. Takie zachowanie może wynikać ze strojenia instrukcji, treningu preferencji, podpowiedzi systemowych oraz innych elementów modelu lub aplikacji.

Nieocenzurowany model LLM to zazwyczaj model, który został zmodyfikowany lub wytrenowany w celu ograniczenia części tych zachowań odmownych. Nie istnieje jedna techniczna definicja „nieocenzurowanego”. Różni twórcy modeli mogą stosować różne metody, a powstałe modele mogą zachowywać się dość odmiennie.

Niektóre nieocenzurowane modele powstają w wyniku dodatkowego dostrajania. Inne wykorzystują techniki modyfikujące konkretne zachowania w istniejącym modelu. Termin ten może również odnosić się do modeli opisywanych jako abliterowane, choć abliteracja jest konkretną techniką, a nie synonimem każdego nieocenzurowanego modelu.

Nieocenzurowany nie oznacza nieograniczony

Usunięcie lub ograniczenie zachowań odmownych nie czyni modelu bardziej zdolnym. Nieocenzurowany model nadal może generować nieprawidłowe informacje, źle rozumieć instrukcje lub odmawiać realizacji niektórych żądań.

• Możliwości nadal mają znaczenie: Mniejszy model nie stanie się lepszy w rozumowaniu tylko dlatego, że zmieniono jego zachowania odmowne.
• Jakość bywa różna: Nieocenzurowane modele mogą się znacznie różnić w zależności od modelu bazowego i sposobu modyfikacji.
• Zachowanie nie jest gwarantowane: Nieocenzurowany model nadal może odmawiać realizacji niektórych żądań lub wykonywać instrukcje w sposób niespójny.
• Zachowania bezpieczeństwa mogą się zmienić: Ograniczenie odmów może również usunąć część zabezpieczeń, które były częścią pierwotnego treningu modelu.

Dlatego bardziej użyteczne jest myślenie o „nieocenzurowanym” jako o opisie zachowania modelu, a nie gwarancji jego możliwości.

Modele nieocenzurowane a modele o otwartych wagach i modele bazowe

Terminy te są często używane razem, ale opisują różne aspekty modelu LLM.

Kategorie te mogą się nakładać. Nieocenzurowany model może mieć otwarte wagi i opierać się na istniejącym modelu. Może być również dostrojeniem lub inną modyfikacją tego modelu. Sama etykieta nie wyjaśnia dokładnie, w jaki sposób model został utworzony.

Dlaczego warto uruchamiać nieocenzurowany model LLM lokalnie?

Uruchamianie nieocenzurowanego modelu LLM lokalnie daje użytkownikowi większą kontrolę nad modelem i jego środowiskiem. Zamiast polegać na hostowanej usłudze AI, model działa na sprzęcie kontrolowanym przez użytkownika.

• Kontrola: Sam wybierasz model, oprogramowanie do inferencji i konfigurację.
• Prywatność: Podpowiedzi i wygenerowane odpowiedzi mogą pozostać w Twoim własnym środowisku obliczeniowym.
• Dostosowanie: Modele o otwartych wagach można modyfikować, dostrajać i konfigurować pod różne obciążenia.
• Praca offline: Lokalnie hostowany model nie musi wysyłać podpowiedzi do zewnętrznej usługi AI.
• Eksperymentowanie: Deweloperzy i badacze mogą porównywać różne wersje i modyfikacje modeli.

Lokalna inferencja daje również kontrolę nad sprzętem, na którym działa model. Staje się to istotne wraz ze wzrostem rozmiarów modeli.

Jakiego sprzętu potrzebują nieocenzurowane modele LLM?

Nieocenzurowane modele mają zazwyczaj takie same wymagania sprzętowe jak model bazowy, na którym się opierają. Główne czynniki to rozmiar modelu, kwantyzacja, długość kontekstu i ustawienia inferencji.

Większy model wymaga więcej pamięci niż mniejszy. Kwantyzacja może zmniejszyć ilość pamięci potrzebnej do załadowania modelu, dzięki czemu większe modele stają się praktyczne na procesorach graficznych z mniejszą ilością pamięci VRAM.

Pamięć VRAM jest również wykorzystywana przez sam proces inferencji. Pamięć podręczna KV i inne dane środowiska uruchomieniowego wymagają dodatkowej pamięci, a dłuższe okna kontekstu mogą zwiększać zapotrzebowanie na pamięć.

Oznacza to, że wybór modelu to tylko część planowania lokalnej konfiguracji LLM. Procesor graficzny musi mieć wystarczającą ilość dostępnej pamięci VRAM na model i obciążenie, które zamierzasz uruchomić.

Wypróbuj na DaDesktop

Jeśli chcesz uruchomić nieocenzurowany model LLM bez kupowania i instalowania własnego sprzętu GPU, DaDesktop oferuje pulpity w chmurze z dedykowanymi zasobami GPU. Możesz uruchamiać lokalne obciążenia LLM na DaDesktop lub porównać dostępne opcje GPU w zależności od modelu, który chcesz uruchomić.