Notlar / 04
Mühendislik notları
Neyin bozulduğuna, önce neyi yanlış anladığıma ve sistemi netleştiren kararlara dair kısa kayıtlar.
Tek Bir LLM Skoru İki Farklı Sorunu Gizliyordu
RAG pipeline'ını tek bir şey olarak değerlendirmeyi bıraktım, retrieval ve generation hakkında ayrı sorular sormaya başladım.
pip install Bir Güven Kararıdır
AI projeleri hızla provider, SDK, ajan, vector store ve secret biriktiriyor. Her yeni bağımlılığı security modelinin bir parçası olarak görmeye başladım.
terraform destroy Bitti. Yine de Faturayı Kontrol Ettim.
Terraform sahip olduğu her şeyi kaldırdı. Bu, hâlâ para harcatabilecek her şeyi kaldırmakla aynı şey değildi.
Bir Pod Running Olabilir ve Yine de Hiçbir Yere Gitmiyor Olabilir
LiteLLM local'de çalıştı, sonra e2-small GKE node'larımda ne kadar az yer kaldığını tam olarak ortaya çıkardı.
Trace Doğruydu. Hikaye Değildi.
LangChain ajanı biliyordu, LiteLLM modeli biliyordu, Langfuse ise ikisini de ayrı hikayeler olarak gösterince ne oldu.