Phỏng vấn Java Senior: 5 sự cố production người phỏng vấn hay hỏi

- Published on
- 16 mins read
"Hệ thống chạy ổn ở 50 QPS. Lên 500 QPS thì treo cứng, CPU gần như không làm gì, log không có exception. Bạn nghĩ tới đâu đầu tiên?"
Ở vòng phỏng vấn Senior, Staff hoặc Principal Software Engineer, câu hỏi thường trông như thế. Hiếm khi còn câu đố thuật toán thuần tuý hay hỏi cú pháp Stream Java 8. Người phỏng vấn muốn biết bạn đã từng gặp, hoặc ít nhất hiểu tới tận đáy, những sự cố làm hệ thống "chết đứng" ở quy mô lớn chưa.
Câu trả lời tốt thường phải đi xuống dưới tầng code: CPU đồng bộ cache ra sao (Mechanical Sympathy), JVM lập lịch thread thế nào, connection pool cạn lúc nào, giao dịch phân tán chống trùng bằng gì. Năm câu dưới đây là kiểu hay dùng để phân loại ứng viên, mỗi câu kèm cơ chế bên dưới và hướng xử lý trên production.
# false sharing và bí mật cache line 64-byte
# câu hỏi phỏng vấn
Tại sao hai biến
volatilehoàn toàn độc lập, do hai luồng trên hai lõi CPU khác nhau truy cập, lại có thể làm throughput của cả hệ thống sụt 80%? Giải quyết thế nào ở tầng kiến trúc?
# giải thích kỹ thuật
CPU không đọc ghi từng biến lẻ tẻ từ RAM mà nạp theo từng khối cố định gọi là Cache Line (thường dài 64 bytes). Các giao thức giữ tính nhất quán bộ nhớ đệm ở tầng phần cứng (Hardware Cache Coherence Protocol, phổ biến như MESI: Modified, Exclusive, Shared, Invalid) cũng theo dõi và đồng bộ theo đơn vị cả một Cache Line 64 bytes này, chứ không biết bên trong có mấy biến Java.
Giả sử hai biến valueA và valueB được cấp phát nằm sát nhau trên Heap nên vô tình lọt vào chung một Cache Line 64-byte. Khi Core 1 cập nhật valueA, giao thức MESI buộc Core 1 phải giành quyền sở hữu độc quyền (trạng thái Modified) cho toàn bộ Cache Line đó, đồng nghĩa với việc đánh dấu vô hiệu (Invalidate) bản sao Cache Line tương ứng đang nằm trên L1/L2 Cache của Core 2. Ngay sau đó, khi Core 2 muốn đọc hoặc ghi vào biến valueB của riêng nó, phần cứng báo Cache Miss và bắt Core 2 phải đứng chờ kéo lại cả Cache Line từ phía Core 1 qua bus L3/interconnect (chậm hơn truy cập L1 hàng chục lần). Tới lượt Core 1 ghi tiếp thì Core 2 lại bị vô hiệu. Cứ thế, Cache Line bị giằng qua giật lại liên tục giữa hai nhân CPU (cache line ping-pong). Hiện tượng này gọi là False Sharing (chia sẻ giả): về mặt logic code thì hai luồng truy cập hai biến hoàn toàn độc lập, nhưng ở tầng vật lý lại dẫm đạp lên cùng một Cache Line.
# cách khắc phục
Dùng Cache Line Padding (đệm thêm biến giả để đẩy các biến thật sang Cache Line riêng) hoặc annotation nội bộ của JVM. Không phải biến nào cũng cần làm vậy: chỉ đáng padding cho vài biến bị nhiều thread ghi liên tục (counter, con trỏ head/tail của queue), và nên xác nhận bằng benchmark (JMH) hoặc perf c2c trước khi đệm.
// Kỹ thuật Cache Line Padding thủ công (Kiểu LMAX Disruptor)
public class PaddedAtomicLong {
// 56 bytes padding trước
public volatile long p1, p2, p3, p4, p5, p6, p7;
// Biến thật cần bảo vệ
public volatile long value = 0L;
// 56 bytes padding sau để cô lập hoàn toàn biến 'value' vào riêng 1 Cache Line
public volatile long p8, p9, p10, p11, p12, p13, p14;
}
// Hoặc dùng @Contended của HotSpot: Java 8 là sun.misc.Contended; Java 9+ là annotation dưới đây,
// cần --add-exports java.base/jdk.internal.vm.annotation=ALL-UNNAMED khi compile
// và cờ -XX:-RestrictContended khi chạy (không có cờ thì annotation bị bỏ qua với code ngoài JDK)
public class ModernCounter {
@jdk.internal.vm.annotation.Contended
public volatile long head = 0L;
@jdk.internal.vm.annotation.Contended
public volatile long tail = 0L;
}Một điểm hay bị hỏi vặn: JVM không cam kết giữ thứ tự field theo thứ tự khai báo, nên padding kiểu "khai báo 7 biến trước, 7 biến sau" trong cùng một class có thể không như ý. Vì vậy LMAX Disruptor đặt padding ở các class cha/con (LhsPadding → Value → RhsPadding): HotSpot xếp field của class cha trước field của class con. Bản thân JDK cũng dùng @Contended cho Thread (các field của ThreadLocalRandom), Striped64 (nền của LongAdder) và ConcurrentHashMap.CounterCell.
# bẫy carrier pinning trong virtual threads
# câu hỏi phỏng vấn
Tại sao ứng dụng chuyển sang Java 21 Virtual Threads lại tụt thông lượng mạnh và độ trễ P99 tăng vọt khi đọc ghi CSDL trong khối
synchronized?
# giải thích kỹ thuật
Virtual Threads chạy theo kiểu cộng tác (Cooperative Scheduling): hàng triệu Virtual Threads được ánh xạ (mounted) lên một số ít Carrier OS Threads (mặc định bằng số lõi CPU).
Khi một Virtual Thread bị chặn I/O (Blocking I/O), runtime của Java tháo (unmount) nó khỏi Carrier Thread để Carrier Thread phục vụ Virtual Thread khác.
Nhưng có hai trường hợp Java không unmount được Virtual Thread (gọi là Carrier Pinning):
- Thao tác chặn I/O nằm trong khối hoặc method
synchronized. - Lời gọi hàm nằm trong một native frame (qua JNI).
Hậu quả trên Production: Virtual Thread bị ghim (pinned) vào Carrier OS Thread trong lúc chờ I/O từ CSDL thì Carrier Thread đó bị kẹt hẳn. Chỉ cần vài chục request đồng thời vướng vào khối synchronized là cả nhóm Carrier Threads trong ForkJoinPool tê liệt, và hàng trăm nghìn Virtual Threads khác bị đói CPU (Starvation).
# cách khắc phục
- Thay
synchronizedbằngjava.util.concurrent.locks.ReentrantLock(ReentrantLock cho phép Virtual Thread unmount an toàn khi bị chặn). - Chạy ứng dụng với cờ chẩn đoán của JVM để tìm chỗ bị ghim (Java 21–23; từ Java 24 cờ này bị bỏ, dùng sự kiện JFR
jdk.VirtualThreadPinned, sự kiện này có từ Java 21):-Djdk.tracePinnedThreads=full
NOTE
Từ Java 24 (JEP 491), synchronized không còn ghim virtual thread nữa. Pinning vẫn còn với native frame (JNI, FFM upcall) và khi block trong class initializer. Hệ thống chạy Java 21 LTS thì vẫn nên rà lại và chuyển các đoạn synchronized có I/O sang ReentrantLock.
# hikariCP connection pool starvation và deadlock
# câu hỏi phỏng vấn
Một tác vụ xử lý đơn hàng mở Transaction chính, rồi gọi bất đồng bộ qua CompletableFuture để ghi log kế toán, cũng xin Connection từ cùng một Connection Pool. Tại sao hệ thống chạy ổn ở 50 QPS nhưng deadlock cả hệ thống khi tải chạm 500 QPS?
# giải thích kỹ thuật
Đây là kịch bản kinh điển mang tên Parent-Child Connection Pool Deadlock. Giả sử HikariCP của bạn đang cấu hình tối đa 10 kết nối. Khi chạy ở mức tải thấp (50 QPS), các giao dịch đóng mở rất nhanh nên trong pool lúc nào cũng dư kết nối rảnh cho cả luồng cha lẫn luồng con. Nhưng khi tải vọt lên 500 QPS, đúng 10 request cha (Parent Requests) ập vào cùng một thời điểm và lấy sạch cả 10 kết nối trong pool để mở Transaction chính.
Trong lúc vẫn đang giữ khư khư kết nối chưa commit, mỗi luồng cha lại đẩy một tác vụ con (Child Task) sang CompletableFuture rồi đứng chặn ở lệnh future.join() để chờ tác vụ con chạy xong. Khổ nỗi, mỗi tác vụ con khi bắt đầu chạy cũng quay sang HikariCP xin cấp 1 kết nối CSDL mới để ghi log. Vì pool lúc này đã cạn sạch (active = 10, idle = 0), cả 10 tác vụ con bị đẩy vào hàng đợi chờ (Wait Queue). Thế là bi kịch xảy ra: luồng cha không thể nhả kết nối vì còn đang chờ tác vụ con hoàn tất, còn tác vụ con thì không bao giờ chạy được vì đang chờ chính kết nối mà luồng cha đang nắm giữ. Toàn bộ hệ thống rơi vào trạng thái Deadlock cứng cho tới khi hết hạn connectionTimeout (mặc định 30 giây).
# cách khắc phục
Công thức tính kích thước Pool an toàn: nếu một luồng nghiệp vụ cần tối đa
Mkết nối đồng thời và cóTluồng thực thi, kích thước tối thiểu của Pool để tránh deadlock là:PoolSize_min = T * (M - 1) + 1Ví dụ: với
T = 10luồng cha và mỗi luồng sinh thêm 1 luồng con cùng xin connection (M = 2), Pool tối thiểu phải là10 * (2 - 1) + 1 = 11kết nối.Tách Connection Pools (Pool Segregation): đừng dùng chung một Connection Pool cho tác vụ quan trọng (OLTP) và tác vụ phụ (Auditing, Logging, Batching).
Không giữ DB Connection khi chờ I/O bên ngoài: commit hoặc đóng kết nối CSDL trước khi gọi tác vụ bất đồng bộ hoặc REST API của bên thứ ba.
TIP
Nên nhớ: đưa các tác vụ ghi log, kiểm toán, gửi notification ra ngoài transaction database chính. Dùng Outbox Pattern hoặc Event Bus để transaction database đóng càng nhanh càng tốt.
# stream api vs chi phí allocation trên hot path
# câu hỏi phỏng vấn
Tại sao các hệ thống độ trễ siêu thấp (Low-Latency Trading Engines) hay gateway xử lý 500,000 QPS lại cấm dùng Java Stream API trên các đường dẫn quan trọng (Hot Paths)?
# giải thích kỹ thuật
Stream API giúp code dễ đọc và gọn hơn nhiều. Đổi lại là cái giá về cấp phát bộ nhớ (Allocation Churn) và chi phí gián tiếp (Indirection Overhead):
- Nhiều Garbage trên Young Generation: mỗi pipeline của Stream sinh hàng loạt đối tượng ngắn hạn:
Spliterator, các stageReferencePipeline(Head, StatelessOp...),Sink, lambda có capture biến, cùng collection kết quả. Nhân với 500,000 QPS, HotSpot phải dọn hàng triệu đối tượng mỗi giây, GC dễ thành cổ chai. Đôi khi JIT inline được cả pipeline và Escape Analysis xoá bớt allocation, nhưng đó là may chứ không phải cam kết, nên hệ thống low-latency không dựa vào nó. - Cản trở JIT Inlining và Loop Unrolling: vòng lặp
fortruyền thống là cấu trúc đơn giản nhất để JIT (C2 Compiler) áp dụng Vectorization (SIMD) và unroll. Còn chuỗi lời gọi hàm ảo (megamorphic virtual calls) của Stream làm branch prediction tốn hơn và JIT khó tối ưu mã máy. - Autoboxing ngầm: không dùng Stream nguyên thủy (
IntStream,LongStream) mà dùngStream<Integer>thì sinh hàng triệu đối tượngInteger(mỗi cái 16 bytes với compressed oops, chưa kể tham chiếu 4-8 bytes trỏ tới nó; chỉ -128..127 là lấy từ cache) chỉ để bọc một số 4 bytes.
// Đường dẫn hiệu năng cao: Zero Allocation Hot Path
public static long calculateTotalVolume(long[] trades) {
long total = 0;
// JIT Compiler có thể vectorize vòng lặp này thành lệnh SIMD (SSE/AVX, tuỳ CPU),
// không sinh ra bất kỳ 1 byte Garbage nào trên Heap!
for (int i = 0; i < trades.length; i++) {
total += trades[i];
}
return total;
}# thiết kế idempotency cho giao dịch phân tán
# câu hỏi phỏng vấn
Trong hệ thống thanh toán phân tán, một API trừ tiền nhận cùng một Idempotency-Key từ Client gửi đồng thời (Concurrent Request) qua 2 luồng do Network Retry. Làm sao để tài khoản chỉ bị trừ tiền đúng một lần mà không dính Race Condition hay Deadlock ở tầng CSDL?
# giải pháp thiết kế
- Chặn ở tầng lưu trữ bằng Unique Constraint: tạo bảng
idempotency_recordsvới khóa duy nhấtUNIQUE(idempotency_key). Chèn trùng sẽ bị unique index của CSDL chặn ngay (Spring dịch lỗi này thànhDataIntegrityViolationException). Điều quan trọng là bản ghi idempotency và lệnhUPDATEtrừ tiền phải nằm trong cùng một transaction: tốt nhất làINSERTbản ghiPROCESSINGtrước, trừ tiền, rồi cập nhật thànhCOMPLETEDkèm response, commit một lần. Request trùng sẽ bị chặn ngay ở câuINSERT(với PostgreSQL thì nó chờ transaction kia commit rồi mới báo trùng). - Distributed Mutex với Redis: dùng lệnh nguyên tử
SET key token NX PX 5000để hai luồng không cùng chạy nghiệp vụ trừ tiền một lúc. Lock này chỉ là lớp giảm tải, không phải lớp bảo đảm: nếu Req 1 bị GC pause hay DB chậm quá 5 giây, lock hết hạn và Req 2 vẫn lọt vào. Lúc đó chỉ unique constraint ở bước 1 cứu được bạn. Nhớ xoá lock bằng script so sánhtokenđể không xoá nhầm lock của request khác. - State Machine 3 trạng thái:
PROCESSING: đang xử lý giao dịch. Request thứ hai đến trùng lúc này sẽ nhận HTTP409 Conflict(hoặc polling chờ kết quả tuỳ thiết kế API).COMPLETED: giao dịch thành công. Hệ thống trả về nguyên vẹn bản JSON response đã lưu từ lần chạy đầu tiên mà không thực thi lại logic trừ tiền.FAILED: giao dịch thất bại. Ở đây cần phân biệt hai loại lỗi: nếu là lỗi hạ tầng tạm thời (timeout mạng, DB deadlock) thì cho phép xoá hoặc mở khoá bản ghi để client retry với cùng key; còn nếu là lỗi nghiệp vụ xác định (như tài khoản không đủ số dư) thì nên lưu luôn kết quả từ chối để trả về ngay nếu client cố gọi lại.
# vài lời khuyên khi phỏng vấn Senior
Khi bước vào một câu hỏi thiết kế hoặc xử lý sự cố ở cấp Senior/Staff, điều đầu tiên là đừng vội lao vào viết code hay vẽ khung ngay. Hãy dành vài phút đầu hỏi kỹ các ràng buộc phi chức năng (Non-functional requirements): hệ thống cần chịu mức QPS bao nhiêu, SLA độ trễ P99 là mấy chục mili-giây, và khi đứt mạng cục bộ thì ưu tiên tính nhất quán (Consistency) hay tính sẵn sàng (Availability).
Lúc trình bày, chủ động nối từ code Java xuống phần cứng và hệ điều hành (CPU Cache Line, Context Switch, epoll/kqueue, GC Pause) để người phỏng vấn thấy bạn hiểu thứ gì đang chạy bên dưới. Và luôn tự chỉ ra trade-off của phương án mình vừa đề xuất trước khi bị hỏi: nó tốn thêm chi phí phát triển, độ phức tạp vận hành, thông lượng hay đánh đổi tính đúng đắn của dữ liệu ở đâu.
Cách luyện hiệu quả với 5 câu trên: che phần giải thích lại, bấm đồng hồ hai phút, nói to câu trả lời theo ba ý (triệu chứng, cơ chế gây ra, cách sửa kèm trade-off). Rồi mở bài ra so. Câu nào bạn chỉ nói được triệu chứng mà không nói được cơ chế, ví dụ biết "dùng ReentrantLock thay synchronized" mà không giải thích được vì sao, thì đó là câu cần ôn lại trước.
Tài liệu tham khảo:
- Martin Thompson: Mechanical Sympathy & Hardware Architecture
- JEP 444: Virtual Threads (Java Platform, Standard Edition)
- HikariCP Wiki: Bad Pool Sizing and Deadlocks
Chỉ là những ghi chép cá nhân với hy vọng mang lại chút giá trị. Nếu thấy hữu ích, đừng ngại chia sẻ cho bạn bè & đồng nghiệp nhé!
Happy coding 😎 👍🏻 🚀 🔥.
On this page
- # false sharing và bí mật cache line 64-byte
- # câu hỏi phỏng vấn
- # giải thích kỹ thuật
- # cách khắc phục
- # bẫy carrier pinning trong virtual threads
- # câu hỏi phỏng vấn
- # giải thích kỹ thuật
- # cách khắc phục
- # hikariCP connection pool starvation và deadlock
- # câu hỏi phỏng vấn
- # giải thích kỹ thuật
- # cách khắc phục
- # stream api vs chi phí allocation trên hot path
- # câu hỏi phỏng vấn
- # giải thích kỹ thuật
- # thiết kế idempotency cho giao dịch phân tán
- # câu hỏi phỏng vấn
- # giải pháp thiết kế
- # vài lời khuyên khi phỏng vấn Senior