Context / Kontekst
1Definicja
Kontekst w AI to cała informacja (tekst, historia rozmowy, dokumenty), którą model "widzi" i bierze pod uwagę przy generowaniu odpowiedzi. Okno kontekstowe (context window) to maksymalna ilość tekstu, którą model może przetworzyć jednocześnie.
2Co to oznacza w praktyce
Wyobraź sobie pamięć roboczą modelu jako biurko. Wszystko, co zmieścisz na biurku, model "widzi" i może wykorzystać. Gdy biurko się zapełni (przekroczysz limit tokenów), najstarsze dokumenty spadają na podłogę – model o nich "zapomina". **Typowe rozmiary okien kontekstowych (2025):** • GPT-4o: 128 000 tokenów (~300 stron tekstu) • Claude 3.5: 200 000 tokenów (~500 stron) • Gemini Pro: 1 000 000 tokenów (~2500 stron) Większe okno = możliwość przetwarzania dłuższych dokumentów, ale też wyższy koszt i wolniejsze odpowiedzi.
3Dlaczego to ma znaczenie
Rozmiar okna kontekstowego determinuje, jakie zadania możesz zlecić modelowi. Chcesz przeanalizować 100-stronicową umowę? Potrzebujesz dużego okna. Prosty chatbot FAQ? Wystarczy małe. Zrozumienie tej zależności pozwala dobierać modele do zadań.
Najczęstszy błąd
Myślenie, że duże okno kontekstowe oznacza, że model "pamięta" wszystko równie dobrze. W praktyce modele lepiej "pamiętają" początek i koniec tekstu, a środek może być "rozmyty" (lost in the middle problem).