Navigating Fair Housing Guardrails in LLMs

Zillow · 2024 · 4. Điều chỉnh · Độ khó: Trung bình — bài gốc

Bối cảnh

Zillow thử trợ lý hội thoại bằng LLM cho người tìm nhà. Rủi ro riêng của bất động sản: luật Fair Housing cấm "steering" (dẫn khách tới hoặc tránh khu vực theo đặc điểm được bảo vệ). Ví dụ một LLM trả lời vui vẻ cho câu "nhà ở khu yên tĩnh không có gia đình có con nhỏ", vi phạm theo tình trạng gia đình.
Bài toán là đánh đổi: recall cao (không bao giờ để lọt câu vi phạm) nhưng precision thấp thì từ chối cả câu hợp lệ, ví dụ tìm nhà có lối đi cho người khuyết tật.

So sánh ba cách:

Prompt: thêm chỉ dẫn từ chối câu liên quan nhóm được bảo vệ. Dễ làm, recall cao nhưng quá thận trọng (từ chối cả câu hợp lệ), và không tất định.
Stop list: khớp từ khoá cho các trường hợp nặng nhất, tất định; nhưng không hiểu ngữ cảnh ("Indian" chặn luôn thành phố Indian Wells).
Classifier: BERT tinh chỉnh, nhanh, chỉnh được ngưỡng precision/recall. Không có dữ liệu sẵn nên tự dựng: query thật về bất động sản, chèn cụm từ phân biệt để tạo mẫu vi phạm, mẫu do chuyên gia pháp lý viết; sinh câu trả lời bằng LLM rồi gán nhãn theo từng câu (câu trả lời dài thường chỉ có một câu vi phạm); LLM gán nhãn yếu rồi người duyệt; tăng dữ liệu bằng dịch ngược, diễn đạt lại. Thêm dữ liệu câu trả lời làm precision tăng ở cùng recall.

Guardrail kết hợp cả ba, đang thử nội bộ:

Service riêng gồm stop list + classifier, API gọi được ở trước LLM (lọc câu hỏi) và sau LLM (lọc câu trả lời; bị gắn cờ thì hiện thông điệp định sẵn), cộng chỉ dẫn trong prompt.
Vòng cải tiến: phản hồi người dùng và mẫu ngẫu nhiên cho người duyệt; sai thì cập nhật stop list và thêm mẫu gần biên quyết định cho classifier. Service dùng được cho cả việc khác như phân tích transcript cuộc gọi.

LLM là xác suất; ràng buộc pháp lý cần một lớp kiểm soát tất định và đo được bên ngoài model (Hạ tầng phục vụ LLM inference).

Guardrail nên là service riêng chạy cả trước lẫn sau model, không chỉ là câu trong prompt.
Kết hợp luật tất định cho ca nặng và classifier chỉnh ngưỡng cho ca mơ hồ.
Gán nhãn ở mức câu cho đầu ra dài.