Tóm tắt: Các nhà bán lẻ đã tìm ra cách định giá sản phẩm dựa trên độ tuổi, tâm trạng và xu hướng tình dục của bạn.

Khi tôi bay về từ London vài tuần trước, tôi đã rơi vào một cái bẫy mà kể từ đó tôi chưa hề thoát ra. Tôi biết tôi đã trả bao nhiêu tiền cho vé máy bay của mình, tôi đã sử dụng bao nhiêu km đường bay để nâng cấp mã vé. Nhưng tôi không biết liệu người phụ nữ ở bên kia lối đi đã chỉ đánh đổi một số điểm thưởng như tôi hay đã trả hơn 10.000 đô la mà hãng hàng không có thể tính cho cùng một chuyến đi. Đặt vé máy bay từ lâu đã được coi là chơi một trò chơi mà chỉ hãng hàng không mới biết luật chơi, với vô số mã đặt chỗ, chương trình khách hàng thân thiết và thay đổi giá vé biến dữ liệu của bạn thành vũ khí đối với ví tiền của bạn. Nhưng sau khi hạ cánh, tôi vẫn thấy trò chơi gian lận giống nhau ở khắp mọi nơi: trong mọi chuyến đi Uber, mọi đơn hàng trên Amazon, mọi chuyến đi đến siêu thị. Tất cả những doanh nghiệp này bây giờ biết nhiều về tôi đến mức họ có thể nhìn thấy một con số nhấp nháy trên đầu tôi: mức giá chính xác mà tôi sẵn sàng trả trong một thời điểm nhất định. Giá tiền bạn phải trả lúc này đang nhấp nháy trên đầu bạn.

Trong thời đại thuật toán, sự biến động về giá ngày càng lan rộng sang thương mại kỹ thuật số, với mức phí tăng và giảm theo thời gian thực.

Điều đáng lo ngại hơn nhiều là sự gia tăng của chính sách định giá được cá nhân hóa, hoạt động khai thác dữ liệu của chính bạn để tính mức giá chính xác mà bạn sẵn sàng trả, có thể khác với mức giá mà người bên cạnh bạn sẽ trả. Việc định giá được cá nhân hóa không chỉ tạo ra sự thiên vị và có thể thúc đẩy lạm phát mà còn tạo ra một thế giới riêng, nơi mà bạn không bao giờ biết khi nào ứng dụng sẽ lừa dối bạn.

Bây giờ, khi tôi sắp phải trả tiền cho bất cứ thứ gì trên điện thoại hoặc máy tính xách tay của mình, tôi lại nghi ngờ liệu mình có phải trả ít hơn nếu sử dụng tài khoản của người khác hay không.

Tôi vẫn còn nhớ cú sốc cấp thấp mà tôi đã cảm thấy cách đây một thập kỷ khi biết được rằng việc phân biệt giá cả là hoàn toàn hợp pháp ở Hoa Kỳ. Ở trường luật, giáo sư chống độc quyền của tôi đã giới thiệu cho chúng tôi Đạo luật chống phân biệt đối xử Robinson-Patman thời kỳ Suy thoái bằng cách nhanh chóng nhấn mạnh rằng luật này đã không thể thực hiện đúng như tiêu đề của nó. Theo luật lâu đời, các công ty chỉ có thể phải đối mặt với những hình phạt nghiêm khắc vì phân biệt giá nếu họ phân biệt đối xử với các doanh nghiệp khác. Nếu một nhà bán buôn tính giá quá cao cho một cửa hàng, cửa hàng đó có thể đưa nó ra tòa, nhưng khi đó (hoặc bây giờ) không có gì có thể ngăn cửa hàng làm điều tương tự với khách hàng của mình. Nghĩa là, chủ cửa hàng có nhiều biện pháp bảo vệ giá hơn khách hàng của họ. Nếu một cửa hàng thường tính phí một số khách hàng cao hơn những khách hàng khác vì giới tính, chủng tộc hoặc các đặc điểm được pháp luật bảo vệ khác của họ thì điều đó chắc chắn là bất hợp pháp. Nhưng khi các công ty muốn giảm giá tối đa cho mỗi khách hàng trong khi họ sẵn sàng trả tiền, các công ty này coi như có thể thoải mái tính toán mức giảm giá đó.

Tôi nói cú sốc này đang ở mức độ thấp vì vào thời điểm đó, sự phân biệt giá cá nhân hóa ít phổ biến và ít gây hại hơn hiện nay. Chắc chắn, văn hóa phiếu giảm giá cho phép các công ty bán cùng một sản phẩm trong cùng một cửa hàng vào cùng thời điểm với các mức giá khác nhau – nhưng nó mang lại cho khách hàng quyền tự quyết. Những người mua sắm nhạy cảm với giá cả đã dành thời gian để tìm kiếm những phiếu giảm giá, còn những người ít tiết kiệm hơn thì phải trả toàn bộ cước phí. Phiếu giảm giá, thẻ khách hàng thân thiết, việc giảm giá theo mùa trong năm – rất nhiều cách phân biệt giá truyền thống cho phép người mua sắm cá nhân chọn nhóm giá mà họ muốn tham gia.

Nhưng sự phân biệt giá theo thuật toán đã loại bỏ sự lựa chọn đó. Và các phương pháp trích xuất dữ liệu để sắp xếp mọi người vào các nhóm định giá, đang có tính xâm lấn cao hơn bạn có thể nhận ra. Hãy thực hiện chuyến đi Uber mới nhất của bạn. Khi đặt mua chuyến xe đó, bạn có thể biết rằng quãng đường bạn sẽ đi và thời gian trong ngày là các yếu tố về giá cả, vì chúng ta đã dần quen với hiệu quả khai thác lạnh lùng của việc tăng giá. Nhưng bạn có nghĩ đến việc cắm sạc điện thoại trước khi gọi xe không? Nếu bạn làm vậy, điều đó có thể giúp bạn tiết kiệm được một vài đô la vì mức pin của bạn được cho là một trong những yếu tố mà Uber sử dụng để định giá chuyến đi của bạn, một lời buộc tội mà Uber đã kiên quyết phủ nhận. Nếu những cáo buộc này là đúng, thì dễ dàng nhận thấy có lý do: Những người còn ít pin sẽ tỏ ra tuyệt vọng hơn và những người có điện thoại chỉ còn vài phút nữa là sập nguồn sẽ không ngần ngại trả gần như bất kỳ giá nào để gọi được một chiếc ô tô trước khi họ bị mắc kẹt tại đâu đó.

Như The American Prospect gần đây đã trình bày chi tiết, kiểu định giá cá nhân hóa này đang phổ biến trên hầu hết mọi lĩnh vực của nền kinh tế (phát hình trực tuyến, thức ăn nhanh và thậm chí cả ứng dụng hẹn hò) và bạn có thể ngạc nhiên về những biến số nào sẽ khiến bạn bị tính phí nhiều hơn. Trong những năm 2010, các nhà bán lẻ dựa vào dữ liệu thô sơ để định giá hoàn hảo. Khách hàng có thể phải trả nhiều tiền hơn cho chuyến bay họ đặt mua trên máy Mac (so với PC) hoặc trả mức phí cao hơn cho việc luyện thi ở mã ZIP với cộng đồng người châu Á lớn hơn. Nhưng trong những năm gần đây, các công ty đã chuyển từ phân biệt giá cả ở cấp khu vực sang định giá được cá nhân hóa.

Các nhà bán lẻ như Amazon biết rất nhiều về những gì bạn mua, cả trên nền tảng và bên ngoài nền tảng của nó. Và bạn không có cách nào để biết khi nào những lựa chọn của bạn đang thay đổi số tiền bạn phải trả. Năm 2018, tin tức nổi bật là Amazon đã điều chỉnh giá 2,5 triệu lần mỗi ngày. Với sự tăng trưởng của Amazon và sự phát triển của AI, con số này có thể còn cao hơn nhiều vào thời điểm hiện nay. Đối với các nhà bán lẻ như Walmart, việc sử dụng lịch sử mua sắm của người dùng là chưa đủ. Vào tháng 2, gã khổng lồ bán lẻ này đã đồng ý mua nhà sản xuất TV thông minh Vizio với giá hơn 2 tỷ USD, có khả năng mang lại cho Walmart một lượng lớn dữ liệu người tiêu dùng thân mật. TV thông minh không chỉ giám sát những gì chúng ta xem với độ chính xác kiểu Orwell mà còn theo dõi các thiết bị khác ở gần bằng đèn hiệu siêu âm và thậm chí có thể nghe những gì chúng ta nói chuyện riêng tư tại nhà riêng. Đặc biệt, Vizio đã bị phạt hàng triệu đô la vì cáo buộc rằng họ đã theo dõi khách hàng một cách bất hợp pháp.

Các nhà bán lẻ không chỉ biết bạn đã mua gì và kiếm được bao nhiêu tiền mà họ còn thường xuyên biết bạn đang ở đâu, ngày của bạn diễn ra như thế nào và tâm trạng của bạn như thế nào, tất cả đều có thể được mạng lưới thần kinh AI tổng hợp gọn gàng để tính toán số tiền bạn sẽ chấp nhận trả cho một mặt hàng nhất định trong một thời điểm nhất định.

Không có lĩnh vực thương mại nào quá riêng tư để có thể vượt quá giới hạn. Các ứng dụng hẹn hò đang thu thập dữ liệu về cuộc sống lãng mạn của chúng ta, nhưng một số lại công khai khoe khoang về việc làm như vậy để tăng lợi nhuận. Và nhiều ứng dụng dù không tiết lộ việc sử dụng giá cá nhân hóa vẫn đang âm thầm làm điều đó. Tinder hiếm khi nói về công nghệ định giá của mình, nhưng Mozilla và Consumer International gần đây đã phát hiện ra rằng ứng dụng hẹn hò này đã sử dụng hàng chục biến số để điều chỉnh hoàn toàn mức giá cho người dùng. Độ tuổi, giới tính và khuynh hướng tình dục của bạn có thể quyết định số tiền mà AI quyết định bạn cần phải trả để mua tình yêu.

Nếu không được kiểm soát, việc định giá cá nhân hóa sẽ có tác động tiêu cực đến toàn xã hội. Nikolas Guggenberger, trợ lý giáo sư tại Trung tâm Luật Đại học Houston, nói rằng “sự phân biệt giá theo thuật toán ẩn có thể làm suy yếu niềm tin của công chúng vào các cơ chế xây dựng giá và do đó làm suy yếu thị trường.” Định giá bằng AI cũng có nghĩa là những người tuyệt vọng nhất và dễ bị tổn thương nhất thường sẽ phải trả nhiều tiền nhất. Tệ hơn nữa, mọi người có thể bị tính giá cao hơn vì chủng tộc, tuổi tác hoặc tầng lớp của họ. Hãy xem cáo buộc về pin điện thoại. Người lớn tuổi có khả năng sở hữu điện thoại ít nhất ba năm tuổi cao hơn gấp đôi so với người dùng trẻ tuổi. Vì điện thoại thông minh cũ có xu hướng có thời lượng pin thấp hơn nên người lớn tuổi có thể phải trả nhiều tiền hơn người trẻ tuổi cho cùng một chuyến xe Uber.

Guggenberger nói: “Sự phân biệt giá theo thuật toán về cơ bản có thể tự động hóa việc cho vay nặng lãi”. “Nếu pin của bạn sắp hết và bạn đang ở nước ngoài, ứng dụng chia sẻ chuyến đi có thể tăng đáng kể” mức giá cá nhân hóa “của bạn.”

Phần lớn việc định giá AI hoạt động như một loại thuế lũy thoái, tính cho những người có mức thuế thấp nhất. Đối với những người ở những khu vực khó khăn, có ít cửa hàng hơn, ít lựa chọn thay thế hơn, thường không có lựa chọn nào khác ngoài việc nhấp vào nút “mua ngay”, ngay cả khi điều đó gây thiệt hại về tài chính. Như giáo sư luật và cơ quan giám sát người tiêu dùng Zephyr Teachout đã nói với The American Prospect, chúng ta không nên coi hoạt động này là một điều gì đó nghe có vẻ vô hại như từ chúng ta đã dùng là định giá cá nhân hóa – thay vào đó, giáo sư này gọi việc đó là định giá có giám sát.

Chúng ta đều biết cách chứng minh sự phân biệt đối xử của con người. Nếu một cửa hàng ở khu dân cư có đa số người da đen tính phí cao hơn so với cửa hàng ở khu dân cư có đa số người da trắng, thì người mua có thể đến từng cửa hàng, ghi lại giá và khởi kiện. Loại thử nghiệm này là cốt lõi của việc bảo vệ người tiêu dùng trong gần một thế kỷ qua. Nhưng làm thế nào để bạn chứng minh khi một thuật toán tỏ ra phân biệt đối xử? Không có cửa hàng nào để ghé thăm, không có thẻ giá để so sánh, chỉ có hàng triệu màn hình nằm trong túi người dùng. Kết quả có thể xảy ra tình trạng Catch-22, trong đó bạn có thể lấy đủ dữ liệu để chứng minh sự phân biệt đối xử chỉ bằng cách kiện một công ty nào đó, nhưng bạn lại không thể kiện công ty đó nếu không có dữ liệu trước. Chúng ta có thể thấy sự trỗi dậy của một thế giới pháp lý kỳ quái và điên rồ, nơi các công ty sử dụng phần mềm AI thiên vị để điều chỉnh giá một cách bí mật, nhưng chỉ phải đối mặt với ít sự giám sát pháp lý hơn so với các cửa hàng bán lẻ truyền thống.

Tôi hy vọng rằng tình hình này quá ảm đạm, khả năng lạm dụng quá rõ ràng đến mức ngay cả nền dân chủ vốn đang rối loạn của chúng ta cũng không chấp nhận điều đó. Các nhà lập pháp của chúng ta đã quá chậm chạp trong việc hạn chế tác hại của công nghệ mới, ngay cả khi nó trở nên rõ ràng, chẳng hạn như cách thức nó đang phá hoại nền dân chủ của chúng ta. Nhưng ngay cả trong những thời điểm phân cực chính trị này, việc móc túi bằng AI có thể là một trong những vấn đề hiếm hoi khiến chúng ta có thể đoàn kết lại và cùng phẫn nộ.

Albert Fox Cahn

Nguồn: https://www.businessinsider.com/ai-quietly-picking-your-pocket-with-personalized-pricing-2024-7

(*) Tác giả Albert Fox Cahn là người sáng lập và giám đốc điều hành của Dự án Giám sát Công nghệ Giám sát, hay STOP, một nhóm quyền dân sự và quyền riêng tư có trụ sở tại New York.

Cù Tuấn biên dịch

Nguồn: https://www.facebook.com/permalink.php?story_fbid=pfbid0PbFjRjLReQtXUzwkQrbyQgzks7p6BYkMXTcHa7