Phần 2: Thách thức và Rủi ro Triển khai AI Tạo sinh trong ngành Ngân hàng - Chuỗi bài AI Tạo sinh đột phá ngành tài chính (ngân hàng, bảo hiểm): Cơ hội, Thách thức, Bước khởi đầu
 |
| Phần 2: Thách thức và rủi ro triển khai AI tạo sinh trong ngành Ngân hàng |
Triển khai AI tạo sinh (Generative AI hay Gen AI) trong ngành ngân hàng còn có những thách thức hay khó khăn đặc thù nào khác so với các thách thức trong triển khai Các mô hình Ngôn ngữ Lớn (LLMs) hoặc các rủi ro với AI tạo sinh (gen AI)?
McKinsey trong bài viết về khai mở tiềm năng của AI tạo sinh (gen AI) trong ngành ngân hàng có đề cập tới các thách thức và rủi ro, và chuyên trang Chuyendoi.so lược dịch và gửi tới các anh chị.
Các thách thức của ngành ngân hàng trong mở rộng quy mô AI tạo sinh (gen AI)
Đối với các ngân hàng tìm cách khai thác công nghệ có giá trị này (ước tính 200-340 tỷ đô la Mỹ hàng năm), việc mở rộng quy mô AI tạo sinh cũng như bất kỳ dự án nào khác về một số mặt - nó đòi hỏi các kỹ năng quản lý thay đổi truyền thống, sự thống nhất và ủng hộ của ban lãnh đạo cấp cao ngay từ đầu, cam kết trách nhiệm của đơn vị kinh doanh để cho ra kết quả, các trường hợp sử dụng tập trung vào giá trị, các mục tiêu rõ ràng, v.v. Ở những khía cạnh khác, việc mở rộng quy mô AI tạo sinh là điều hầu hết các nhà lãnh đạo chưa từng trải nghiệm.
Có 4 yếu tố chính giải thích tại sao việc mở rộng quy mô AI tạo sinh rất khác biệt.
1. Phạm vi nhiệm vụ và hệ quả liên quan
Yếu tố đầu tiên là phạm vi của nhiệm vụ và những hệ quả liên quan. Giống như cách điện thoại thông minh như sự ra đời của iPhone đã thúc đẩy toàn bộ hệ sinh thái kinh doanh và mô hình kinh doanh, AI tạo sinh đang khiến cho toàn bộ các năng lực và ứng dụng về phân tích nâng cao trở nên rất phù hợp. Các nhóm lãnh đạo điều hành đột nhiên bừng tỉnh trước sức mạnh của AI. Gần như chỉ sau một đêm, các lãnh đạo ngân hàng phải mò mẫn trong cả rừng những thuật ngữ vốn còn mù mịt như Các mô hình ngôn ngữ lớn, AI Tạo sinh (generative AI hay GenAI), việc Học Tăng cường (reinforcement learning, viết tắt là RL)* và mạng nơ ron tích chập (convolutional neural networks, viết tắt là CNN)*. Tuy nhiên, việc mở rộng quy mô AI tạo sinh sẽ đòi hỏi nhiều hơn là học thuật ngữ mới - các đội ngũ quản lý sẽ cần phải giải mã và cân nhắc nhiều lộ trình tiềm năng mà AI tạo sinh có thể đem lại, và phải thích ứng một cách chiến lược, đồng thời định vị để có nhiều lựa chọn.
Nếu bạn là Lãnh đạo CNTT, hãy tham khảo La bàn cơ hội/ Xác định tham vọng AI tạo sinh và Các phương án triển khai trên Chuyendoi.so để dẫn dắt tổ chức của mình tối ưu hoá các cơ hội về AI tạo sinh.
* Chú thích từ chuyên trang:
- Học Tăng cường (reinforcement learning hay RL) là kỹ thuật máy học (ML) giúp đào tạo phần mềm đưa ra quyết định nhằm thu về kết quả tối ưu nhất. Kỹ thuật này bắt chước quy trình học thử và sai mà con người sử dụng để đạt được mục tiêu đã đặt ra. RL giúp phần mềm tăng cường các hành động hướng tới mục tiêu, đồng thời bỏ qua các hành động làm xao lãng mục tiêu.
Thuật toán RL sử dụng mô hình khen thưởng và trừng phạt trong quy trình xử lý dữ liệu. Các thuật toán này tiếp thu ý kiến phản hồi của từng hành động và tự khám phá ra con đường xử lý tốt nhất để thu về kết quả cuối cùng. Thuật toán RL còn có khả năng trì hoãn khen thưởng. Chiến lược tổng thể tốt nhất có thể đòi hỏi phải đánh đổi một vài lợi ích trước mắt, vì vậy cách tiếp cận tốt nhất mà RL khám phá ra có thể bao gồm một số trừng phạt hoặc giai đoạn quay lui. RL là phương pháp hiệu suất cao giúp hệ thống trí tuệ nhân tạo (AI) đạt kết quả tối ưu trong môi trường chưa biết. - Convolutional Neural Network hay còn được viết tắt là CNN, trong tiếng Việt được gọi là mạng nơ-ron tích chập, là một trong những mô hình Deep Learning tiên tiến và hiện đại nhất hiện nay. Nhờ có CNN mà chúng ta có thể dễ dàng tạo dựng hệ thống mạng thông minh và có độ chính xác cao. CNN được sử dụng nhiều trong các bài toán nhận dạng các đối tượng, vật thể trong ảnh.
2. Phức tạp hoá động lực vận hành (operating dynamic)
Yếu tố thứ hai là việc mở rộng quy mô AI tạo sinh làm phức tạp hoá động lực vận hành (complicates operating dynamic) mà hầu hết các tổ chức tài chính tưởng như đã gần giải quyết xong. Cũng giống như cách các ngân hàng tin rằng cuối cùng họ có thể đã khắc phục được sự phân chia đáng tiếc giữa kinh doanh và công nghệ (ví dụ, với các thay đổi theo phương thức vận hành linh hoạt/ agile, sử dụng điện toán đám mây (cloud) và thay đổi mô hình vận hành sản phẩm/ product operating model), việc phân tích và dữ liệu đã trở nên nổi bật và tạo ra một nút phối hợp thứ ba quan trọng. Trong khi phân tích tại các ngân hàng đã tương đối tập trung và thường được quản trị tập trung, AI tạo sinh cho thấy dữ liệu và phân tích sẽ cần phải hỗ trợ mọi bước trong chuỗi giá trị ở mức độ cao hơn nhiều. Các nhà lãnh đạo kinh doanh sẽ phải tương tác sâu hơn với đồng nghiệp về phân tích và đồng bộ hóa những ưu tiên thường khác nhau. Kinh nghiệm cho thấy quá trình chuyển đổi này là nhiệm vụ còn dang dở với hầu hết các ngân hàng, và các mô hình vận hành vẫn đang tiếp tục đổi mới.
3. Tốc độ thay đổi nhanh chóng mặt
Yếu tố thứ ba là tốc độ thay đổi chưa bao giờ nhanh như hiện nay. Trong khi điện thoại thông minh mất nhiều năm để đưa ngân hàng đến một đích đến kỹ thuật số - dưới cân nhắc là ngân hàng di động mới chỉ vượt qua web gần đây để trở thành kênh tương tác chính với khách hàng tại Hoa Kỳ - việc áp dụng các công cụ AI tạo sinh diễn ra trong một phần thời gian rất ngắn. Ngân hàng Goldman Sachs chẳng hạn, được cho là đang sử dụng một công cụ dựa trên AI để tự động hóa việc tạo bài kiểm tra, công việc trước đây là một quá trình thủ công và đòi hỏi nhiều lao động. Gần đây, Citigroup đã sử dụng AI tạo sinh để đánh giá tác động của các quy định về vốn mới của Mỹ. Đối với các tổ chức chuyển động chậm, sự thay đổi nhanh chóng như vậy có thể gây áp lực lên mô hình vận hành của họ.
4. Thách thức về nhân sự
Cuối cùng, việc mở rộng quy mô AI tạo sinh có những thách thức liên quan đến nhân tài đặc thù và tầm quan trọng sẽ phụ thuộc rất nhiều vào nguồn nhân lực của mỗi ngân hàng. Chẳng hạn như các ngân hàng đầu tư và ngân hàng doanh nghiệp hàng đầu đã xây dựng các đội ngũ chuyên gia về định lượng (quant), các kỹ sư thiết lập mô hình (modeler), các nhà dịch giả mô hình (translator), và những người khác thường có chuyên môn về AI và có thể bổ sung kỹ năng về AI tạo sinh như kỹ thuật tạo câu lệnh (prompt engineering) và tuỳ chỉnh cơ sở dữ liệu (database curation) vào tập năng lực của mình. Các ngân hàng với ít chuyên gia AI hơn trong lực lượng lao động sẽ cần tăng cường năng lực của mình thông qua một số hoạt động về đào tạo và tuyển dụng - đây không phải là nhiệm vụ nhỏ.
Các rủi ro trong việc triển khai AI tạo sinh (gen AI) đặc thù
Dù có nhiều lợi ích tiềm năng, trí tuệ nhân tạo tạo sinh hay AI tạo sinh (gen AI) cũng đi kèm với những rủi ro đặc thù. Một số vấn đề nổi cộm nhất bao gồm:
1. Tính công bằng suy giảm
AI tạo sinh có thể phản ánh sự thiên vị trong thuật toán, do dữ liệu đào tạo không hoàn hảo hoặc các quyết định kỹ thuật trong giai đoạn phát triển và triển khai.
2. Bẫy sở quyền hữu trí tuệ
Dữ liệu đào tạo và đầu ra của mô hình có thể dẫn đến nhiều rủi ro về sở hữu trí tuệ, bao gồm cả khả năng vi phạm các tài liệu được bảo hộ bản quyền, nhãn hiệu, bằng sáng chế và các quyền pháp lý khác.
3. Mối lo ngại về quyền riêng tư
AI tạo sinh có thể làm gia tăng các mối lo ngại về quyền riêng tư thông qua việc sử dụng (có thể không cố ý) thông tin cá nhân hoặc thông tin nhạy cảm khác được sử dụng để đào tạo mô hình.
4. Mối đe dọa an ninh
Các ứng dụng có thể bị dính lỗ hổng bảo mật và bị thao túng. Ví dụ, các đối tượng xấu có thể vượt qua bộ lọc an toàn bằng cách làm mờ (obfuscation), phân chia vận chuyển (payload splitting) hoặc ảo hóa (virtualization).
5. Khả năng giải thích
Như có nêu trong các rủi ro khi triển khai, AI tạo sinh dựa trên các mạng nơ-ron với hàng tỷ tham số, do đó làm phức tạp việc giải thích cho người dùng rằng một câu trả lời nhất định được tạo ra như thế nào.
6. Độ tin cậy
AI tạo sinh có thể đưa ra câu trả lời khác nhau cho cùng một lời nhắc, cản trở khả năng của người dùng đánh giá độ chính xác và tin cậy của đầu ra.
7. Tác động đến tổ chức
AI tạo sinh có thể ảnh hưởng đáng kể đến lực lượng lao động, với tác động tiêu cực không đồng đều lên các nhóm và cộng đồng địa phương nhất định.
8. Hậu quả về ESG
Đào tạo và triển khai các mô hình cơ sở có thể làm tăng lượng khí thải carbon và vượt quá các cam kết hoặc kỳ vọng về môi trường, xã hội và quản trị (ESG, viết tắt của Environment, Social và Governance).
Hi vọng bài viết đã giúp bạn có cái nhìn tổng quan về các thách thức và rủi ro trong việc triển khai AI tạo sinh (genAI) trong ngành ngân hàng. Vậy các lãnh đạo hay phòng ban trong ngân hàng có thể làm gì để mở rộng AI tạo sinh và tối đa hoá giá trị đem lại? Đón đọc bài viết tiếp theo nhé?
(còn nữa)
Nguồn tham khảo:
- McKinsey - Capturing the full value of generative AI in banking: https://www.mckinsey.com/industries/financial-services/our-insights/capturing-the-full-value-of-generative-ai-in-banking
- Nghe trên Soundcloud: https://soundcloud.com/mckinsey/listen-to-the-151968414
- McKinsey - An executive’s guide to AI: https://www.mckinsey.com/capabilities/quantumblack/our-insights/an-executives-guide-to-ai
- Theo AWS: Học tăng cường là gì? https://aws.amazon.com/vi/what-is/reinforcement-learning
- Theo Nhân Hoà - Convolutional Neural Network (CNN) là gì? https://nhanhoa.com/tin-tuc/convolutional-neural-network-la-gi.html
Có thể bạn quan tâm?
Các ví dụ chuyển đổi số trong ngành tài chính, ngân hàng và bảo hiểm
- Hành trình chuyển đổi số mạnh mẽ từ thị trường bảo hiểm Trung Quốc
- Ping An Insurance (Bảo hiểm Bình An) và Hành trình số hóa tiên phong ở Trung Quốc
- Zhong An (bảo hiểm Trung An): nền tảng sinh ra cho chuyển đổi số ngành bảo hiểm Trung Quốc
- Insurtech (Công nghệ bảo hiểm): Định nghĩa, phân loại, xu hướng, và tác động tới các đơn vị bảo hiểm trong ngành
- Một số ví dụ về các công ty bảo hiểm chuyển đổi số và insurtech khác trên toàn cầu
Chuỗi bài AI Tạo sinh đột phá ngành tài chính (ngân hàng, bảo hiểm): Cơ hội, Thách thức, Bước khởi đầu
A - Ngành ngân hàng (banking)
1 - Giá trị, các cơ hội chính và ứng dụng chủ đạo
3 - Mở rộng quy mô ứng dụng AI Tạo sinh (GenAI)
B - Ngành bảo hiểm
1 - Các cơ hội chính/ Các ứng dụng chủ đạo
2.1. Về GenAI
2.2. Về dữ liệu
Chuỗi bài viết Sẵn sàng cho Trí tuệ Nhân tạo (AI): Điều Lãnh đạo CNTT CIO Cần Biết và Làm.
- Phần 1: Xác định tham vọng AI | Sẵn sàng cho Trí tuệ Nhân tạo: Điều Lãnh đạo CNTT CIO Cần Biết và Làm
- Phần 2: Các phương án triển khai AI | Sẵn sàng cho Trí tuệ Nhân tạo: Điều Lãnh đạo CNTT CIO Cần Biết và Làm
- Phần 3: Xác định các rủi ro của AI | Sẵn sàng cho Trí tuệ Nhân tạo: Điều Lãnh đạo CNTT CIO Cần Biết và Làm
- Có cần bổ nhiệm CAIO (Giám đốc Cấp cao về AI)?
- Giải thích về Các Mô hình Ngôn ngữ Lớn (LLMs) & AI Tạo sinh (GenAI)
- Gartner Dự báo 10 Công nghệ chiến lược hàng đầu năm 2024 và xa hơn
- Xu hướng 6: AI (Artificial Intelligence): Trí tuệ nhân tạo
Nhận xét