Senior Backend Engineer (AI Product) - Hà Nội - TA174

Mục đích của chức danh

- Chịu trách nhiệm thiết kế giải pháp, phát triển, triển khai và tối ưu hệ thống backend cho các sản phẩm voice tại VPBank, bao gồm Callbot, AI Tutor/Coaching, Virtual QC, Voice Analytics, Information Extraction và các ứng dụng xử lý giọng nói, hội thoại.
- Chuyển hóa yêu cầu nghiệp vụ thành giải pháp kỹ thuật; trực tiếp xây dựng API, dịch vụ backend, luồng xử lý và cơ chế tích hợp các thành phần AI để đưa sản phẩm vào vận hành thực tế.
- Thiết kế và phát triển các hệ thống xử lý thời gian thực (realtime) và theo lô (batch), đáp ứng yêu cầu về độ trễ, khả năng xử lý đồng thời, tính ổn định, khả năng mở rộng và bảo mật của Ngân hàng.
- Tham gia xây dựng các thành phần backend dùng chung cho Voice Platform, chuẩn hóa khả năng tích hợp và tái sử dụng để rút ngắn thời gian triển khai các use case mới.
- Đóng vai trò đầu mối kỹ thuật trong phạm vi được giao; chủ động đề xuất giải pháp, review thiết kế, review code và hướng dẫn các thành viên khác trong nhóm.

Các trách nhiệm chính

1. Thiết kế giải pháp và phát triển backend cho các sản phẩm Voice AI
- Phối hợp với BA, PM, AI/ML Engineer, QA/QC và các đơn vị nghiệp vụ để làm rõ yêu cầu, xác định phạm vi, thiết kế giải pháp và lập kế hoạch triển khai.
- Phân tích yêu cầu về độ trễ, lưu lượng, số phiên đồng thời, tính sẵn sàng, dữ liệu và tích hợp; đề xuất kiến trúc phù hợp và làm rõ các đánh đổi về hiệu năng, chi phí, độ phức tạp vận hành.
- Xây dựng tài liệu thiết kế kỹ thuật, đặc tả API và hướng dẫn tích hợp, triển khai, vận hành.
- Thiết kế, phát triển hoặc đánh giá các thành phần lõi: Session/Job Management, Workflow Orchestration, AI Service Adapters, Configuration Management, API/Webhook Integration.
- Thiết kế ranh giới rõ ràng giữa logic nghiệp vụ, điều phối xử lý, xử lý audio và tích hợp mô hình AI, đảm bảo các thành phần có thể tích hợp, thay thế và mở rộng.
- Chuẩn hóa API, dữ liệu đầu vào/đầu ra và cơ chế tích hợp để dùng chung cho nhiều sản phẩm, use case và nhà cung cấp mô hình.
- Xây dựng hoặc đánh giá cơ chế quản lý cấu hình, phiên bản và trạng thái thực thi, phục vụ nhu cầu quản trị và phát triển workflow builder về sau.
2. Phát triển backend cho sản phẩm Voice AI
- Trực tiếp phát triển API, dịch vụ backend và luồng xử lý nghiệp vụ; chịu trách nhiệm chất lượng kỹ thuật từ thiết kế đến production.
- Thiết kế và triển khai backend cho các phiên tương tác realtime: kết nối streaming, quản lý phiên và trạng thái hội thoại, điều phối xử lý bất đồng bộ, hủy tác vụ và xử lý ngắt lời theo use case.
- Xây dựng pipeline xử lý audio và hội thoại (realtime hoặc theo lô): tiếp nhận dữ liệu, điều phối các bước xử lý, tổng hợp kết quả và cung cấp đầu ra cho ứng dụng nghiệp vụ.
- Tích hợp các mô hình/dịch vụ AI (STT/ASR, TTS, VAD, Speaker Diarization, LLM, Intent Detection, Information Extraction) qua API hoặc streaming.
- Xây dựng cơ chế timeout, retry, fallback, kiểm soát tải và phục hồi lỗi để hệ thống ổn định khi dịch vụ AI hoặc hệ thống phụ thuộc gặp sự cố.
- Thiết kế dữ liệu và tích hợp với database, cache, message broker/job queue, object storage và các hệ thống nội bộ.
3. Đảm bảo chất lượng và vận hành hệ thống production
- Phối hợp với QA/QC xây dựng và thực hiện kiểm thử tích hợp, kiểm thử tải và kiểm thử các tình huống lỗi, đặc biệt đối với kết nối streaming và các luồng xử lý realtime.
- Đo lường và tối ưu độ trễ đầu cuối, throughput, số phiên đồng thời và mức sử dụng tài nguyên; xác định điểm nghẽn tại backend, mạng hoặc dịch vụ AI.
- Xây dựng logging, metrics và tracing để theo dõi toàn bộ vòng đời của phiên tương tác hoặc tác vụ xử lý, hỗ trợ cảnh báo và điều tra sự cố.
- Phối hợp với IT, DevOps, AI Platform và các đơn vị liên quan trong triển khai CI/CD, quản lý cấu hình môi trường, phát hành, rollback và vận hành hệ thống.
- Thực hiện các yêu cầu về xác thực, phân quyền, quản lý thông tin truy cập và bảo vệ dữ liệu audio, transcript theo tiêu chuẩn của Ngân hàng.
- Tham gia xử lý sự cố, phân tích nguyên nhân gốc và triển khai các biện pháp cải tiến nhằm nâng cao độ ổn định của sản phẩm.
4. Nghiên cứu công nghệ và hỗ trợ phát triển đội ngũ
- Nghiên cứu, đánh giá các công nghệ backend, realtime streaming, workflow và tích hợp AI phù hợp với nhu cầu triển khai thực tế.
- Thực hiện PoC hoặc benchmark để kiểm chứng các lựa chọn kỹ thuật trước khi áp dụng vào sản phẩm.
- Phối hợp với AI/ML Engineer đánh giá tác động của mô hình và phương án model serving đến độ trễ, chi phí và chất lượng hệ thống.
- Review giải pháp, review code, chia sẻ kinh nghiệm và hướng dẫn các thành viên khác trong nhóm.
- Thực hiện các công việc khác theo phân công của cấp có thẩm quyền.

Các kết quả/ Đầu ra của vị trí

- Sản phẩm Voice AI được thiết kế, phát triển và đưa lên production đúng phạm vi, đạt các tiêu chí nghiệm thu kỹ thuật đã thống nhất.
- Các thành phần dùng chung của Voice AI được chuẩn hóa và tái sử dụng, giúp rút ngắn thời gian triển khai use case mới và giảm phụ thuộc nhà cung cấp.
- Chất lượng mã nguồn, tài liệu và năng lực nhóm được nâng lên qua review và chia sẻ chuyên môn.
- Hệ thống realtime và batch đáp ứng mục tiêu về độ trễ, năng lực xử lý, số phiên đồng thời, độ ổn định, khả năng mở rộng và bảo mật.
- Các dịch vụ AI được tích hợp thành luồng xử lý hoàn chỉnh, có giám sát và cơ chế xử lý lỗi, vận hành ổn định trên production.
- Các phương án kỹ thuật được kiểm chứng qua PoC/benchmark, làm cơ sở tin cậy cho quyết định lựa chọn và nghiệm thu.

1. Trình độ đào tạo 
Tốt nghiệp Đại học trở lên trong các lĩnh vực liên quan như: Công nghệ thông tin, Khoa học Máy tính (Computer Science), Kỹ thuật phần mềm (Software Engineering), Kỹ thuật máy tính (Computer Engineering), hoặc các ngành Kỹ thuật liên quan.
2. Kiến thức/ Chuyên môn có liên quan
- Nắm vững kiến thức về thiết kế phần mềm, cấu trúc dữ liệu, lập trình hướng đối tượng, lập trình bất đồng bộ, xử lý đồng thời và nguyên tắc xây dựng hệ thống phân tán.
- Thành thạo ít nhất một ngôn ngữ phát triển backend như Python, Java, Go hoặc TypeScript/Node.js; có khả năng thiết kế, phát triển và tối ưu dịch vụ backend trên production.
- Có kiến thức vững về thiết kế API, giao tiếp giữa các dịch vụ và các giao thức phục vụ realtime/streaming như WebSocket, gRPC streaming hoặc công nghệ tương đương.
- Hiểu và vận dụng được các cơ chế quản lý kết nối, quản lý trạng thái phiên, timeout, cancellation, retry, idempotency và backpressure trong hệ thống bất đồng bộ.
- Có khả năng thiết kế dữ liệu và làm việc với cơ sở dữ liệu quan hệ như PostgreSQL/MySQL; hiểu cách sử dụng cache, message broker/job queue và object storage.
- Hiểu cách tích hợp và điều phối các dịch vụ AI có thời gian phản hồi biến động; biết thiết kế cơ chế kiểm soát lỗi, giới hạn tải và fallback.
- Có kiến thức về Docker, Git, CI/CD, kiểm thử tự động và observability; hiểu các nguyên tắc triển khai, giám sát và tối ưu hệ thống production.
- Có khả năng phân tích yêu cầu nghiệp vụ, thiết kế giải pháp tổng thể và chuyển thành các thành phần kỹ thuật có thể triển khai, kiểm thử và vận hành.
3. Các kỹ năng
- Có kỹ năng giải quyết vấn đề, phân tích nguyên nhân gốc và đưa ra quyết định kỹ thuật dựa trên yêu cầu, dữ liệu đo lường và các ràng buộc thực tế.
- Có khả năng trình bày rõ ràng kiến trúc, luồng xử lý, lựa chọn công nghệ và các đánh đổi kỹ thuật cho cả thành viên kỹ thuật và các bên nghiệp vụ.
- Phối hợp hiệu quả trong nhóm liên chức năng gồm Backend, Frontend, AI/ML, BA, PM, QA/QC và các đơn vị vận hành.
- Có khả năng phân rã công việc, ước lượng, nhận diện phụ thuộc và quản lý rủi ro kỹ thuật.
- Có khả năng review thiết kế, review code và hướng dẫn các thành viên khác.
- Có khả năng đọc hiểu tài liệu kỹ thuật bằng tiếng Anh.
4. Các năng lực cần có
- Chủ động nhận trách nhiệm và theo sát kết quả từ thiết kế đến vận hành.
- Có tư duy hệ thống, đồng thời sẵn sàng trực tiếp lập trình và xử lý các vấn đề kỹ thuật khó.
- Cân bằng được giữa tiến độ triển khai, chất lượng kỹ thuật, khả năng bảo trì, chi phí và nhu cầu mở rộng.
- Có khả năng làm việc độc lập, phối hợp nhóm và thích nghi với thay đổi về nghiệp vụ, công nghệ.
- Chủ động học hỏi, thử nghiệm và đề xuất cải tiến dựa trên nhu cầu thực tế.
- Có tinh thần chia sẻ kiến thức, hỗ trợ đồng đội và nâng cao chất lượng kỹ thuật chung của nhóm.
5. Các kinh nghiệm liên quan
- Có tối thiểu 5 năm kinh nghiệm phát triển phần mềm, trong đó có kinh nghiệm chuyên sâu về backend và triển khai hệ thống production.
- Đã trực tiếp thiết kế và phát triển hệ thống realtime có tích hợp AI, chẳng hạn ứng dụng hội thoại, AI Assistant, streaming inference, xử lý audio/video hoặc ứng dụng tương đương; có kinh nghiệm xử lý yêu cầu về độ trễ, kết nối đồng thời và tính ổn định.
- Có kinh nghiệm đảm nhận vai trò kỹ thuật chính cho một dịch vụ hoặc phân hệ, từ phân tích yêu cầu, thiết kế giải pháp, lập trình, kiểm thử đến triển khai và hỗ trợ vận hành.
- Có kinh nghiệm phát triển các hệ thống xử lý bất đồng bộ, tích hợp nhiều dịch vụ và quản lý trạng thái hoặc tác vụ.
- Có kinh nghiệm tích hợp mô hình/dịch vụ AI vào ứng dụng thông qua API hoặc streaming; xử lý lỗi, timeout và các tình huống gián đoạn của dịch vụ phụ thuộc.
- Có kinh nghiệm kiểm thử tải, phân tích điểm nghẽn, tối ưu hiệu năng và xử lý sự cố production.
Kinh nghiệm dưới đây được ưu tiên:
- Từng xây dựng platform/dịch vụ dùng chung cho nhiều sản phẩm; quen workflow engine, configuration/version management hoặc nền tảng low-code/no-code.
- Từng phát triển sản phẩm Voice AI: Callbot, Voicebot, AI Tutor, Virtual QC, Voice Analytics, Agent Assist hoặc Information Extraction từ hội thoại.
- Có kinh nghiệm xử lý audio streaming, VAD/endpointing, ngắt lời, đồng bộ audio–transcript; hiểu pipeline STT–LLM–TTS hoặc Speech-to-Speech.
- Quen LiveKit, WebRTC, SIP/RTP hoặc công nghệ truyền thông thời gian thực tương đương.
- Từng training/fine-tuning, đánh giá hoặc tối ưu các mô hình voice (STT/ASR, TTS, VAD, Speaker Diarization) và mô hình xử lý hội thoại.
- Có kinh nghiệm model serving, tối ưu inference/GPU/batching và tối ưu độ trễ giữa backend và mô hình AI.
- Quen RAG, vector database, knowledge retrieval hoặc điều phối luồng xử lý dùng LLM.
- Có kinh nghiệm triển khai trên Kubernetes, cloud hoặc hạ tầng on-premises.
- Có kinh nghiệm trong ngân hàng, tài chính, fintech hoặc Contact Center.