Bỏ qua điều hướng
EN
DTCode Dev ZineChủ đề

Tuyển tập theo chủ đề

#Thống kê

5 bài viết về Thống kê.

Danh sách bài viết

5 bài viết#Thống kêBỏ lọc

Bài số № 73PRO

Eval online: lấy mẫu trace có trọng số, tín hiệu người dùng, A/B test đúng cách và biểu đồ kiểm soát chất lượng

Bộ eval offline tốt nhất vẫn chỉ là mẫu của quá khứ. Chạy judge trên traffic thật và hiệu chỉnh trọng số, tín hiệu ngầm của người dùng, A/B test có cỡ mẫu, kiểm tra SRM và tránh bẫy nhìn trộm, biểu đồ kiểm soát phát hiện chất lượng trôi.

23 phút đọc

Bài số № 71PRO

Thiết kế benchmark: tính hợp lệ, bão hoà, nhiễm dữ liệu và IRT để chọn câu hỏi có giá trị

Một bộ dữ liệu nội bộ khác một benchmark nhiều người dùng. Construct validity, bão hoà và vòng đời benchmark, phát hiện nhiễm dữ liệu bằng trùng n-gram và câu diễn đạt lại, canary string, mô hình Rasch để ước lượng độ khó và chọn tập con giữ đúng thứ hạng.

21 phút đọc

Bài số № 68PRO

Judge đáng tin cậy ở quy mô lớn: meta-evaluation, hội đồng judge, Bradley-Terry và chống tối ưu ngược

Khi điểm judge quyết định phát hành, judge phải chịu được áp lực. So judge với trần đồng thuận người–người, hội đồng judge khác họ mô hình, xếp hạng phiên bản bằng Bradley-Terry có khoảng tin cậy, đo thiên kiến độ dài bằng hồi quy, chống Goodhart và trôi judge.

20 phút đọc

Bài số № 67PRO

Thống kê nâng cao cho eval: sai số chuẩn theo cụm, phân rã phương sai, power analysis và so sánh nhiều phiên bản

Khi câu hỏi theo nhóm, mỗi câu chạy nhiều lần và bạn thử cả chục biến thể prompt, công thức sai số đơn giản không còn đúng. Sai số theo cụm, phân rã phương sai để chọn số trial, power analysis cho MDE, và kiểm soát phát hiện sai bằng Holm, Benjamini-Hochberg.

20 phút đọc

Bài số № 58PRO

Thống kê cho eval: sai số chuẩn, khoảng tin cậy, bootstrap và so sánh ghép cặp hai phiên bản

90% trên 40 câu có thật sự hơn 85%? Tính sai số chuẩn và khoảng tin cậy Wilson cho tỉ lệ đạt, bootstrap, cần bao nhiêu câu hỏi, chạy nhiều trial để giảm nhiễu, và so sánh hai prompt bằng phép thử ghép cặp, McNemar — tất cả bằng NumPy và SciPy.

19 phút đọc