Context window (okno kontekstowe)
1Definicja
Maksymalna ilość tekstu (mierzona w tokenach), którą model AI może "widzieć" i przetwarzać jednocześnie podczas generowania odpowiedzi. To "pamięć robocza" modelu.
2Co to oznacza w praktyce
Okno kontekstowe określa, ile informacji możesz wrzucić do jednego zapytania. **Przykład praktyczny:** Masz 50-stronicowy raport (ok. 75 000 tokenów). Chcesz, żeby AI go podsumował. • Model z oknem 8K tokenów: Musisz podzielić raport na 10 części i streszczać po kawałku, tracąc kontekst całości. • Model z oknem 128K tokenów: Wrzucasz cały raport naraz i dostajesz spójne streszczenie. **Aktualne rozmiary (2025):** • GPT-4o-mini: 128K tokenów • Claude 3.5 Sonnet: 200K tokenów • Gemini 2.0: do 1M tokenów 1000 tokenów ≈ 750 słów angielskich ≈ 500 słów polskich.
3Dlaczego to ma znaczenie
To jeden z kluczowych parametrów przy wyborze modelu. Praca z długimi dokumentami (umowy, raporty, książki) wymaga dużego okna. Krótkie zapytania mogą używać tańszych modeli z małym oknem.
Najczęstszy błąd
Myślenie, że większe okno zawsze jest lepsze. Większe okno = wolniejsze odpowiedzi i wyższe koszty. Jeśli Twoje zapytania mają 500 tokenów, model z oknem 1M tokenów to przesada.