Khi triển khai ứng dụng LLM, làm sao kiểm tra thay đổi model trước khi release?
Tác giả đang dùng cách thử thủ công (10-20 prompts → deploy → theo dõi → fix lỗi). AWS SageMaker shadow testing quá phức tạp. Câu hỏi cho cộng đồng:
1. Cách kiگاهی tra model mới hiệu quả?
2. Có công cụ replay traffic thực tế?
3. Thủ công đã đủ chưa?
Bạn có giải pháp nào? #LLM #AITesting #MachineLearning #AI #TríTuệNhânTạo #KiểmThửAI #HọcMáy
https://www.reddit.com/r/LocalLLaMA/comments/1qr27hi/how_do_you_test_llm_mod