Điện, Nước, Làm mát: Cái giá thực sự của việc đào tạo AI hiện đại

Sức nặng vật lý của trí tuệ ảo

Quan niệm phổ biến về trí tuệ nhân tạo thường gắn liền với những dòng code sạch sẽ và đám mây không trọng lượng. Đây chỉ là một sự hư cấu trong marketing. Mỗi câu lệnh bạn nhập và mỗi mô hình mà một công ty đào tạo đều kích hoạt một chuỗi phản ứng vật lý khổng lồ. Nó bắt đầu bằng một con chip silicon nhưng kết thúc bằng một chiếc máy biến áp đang rung lên và một tháp giải nhiệt. Chúng ta đang chứng kiến sự thay đổi lớn trong cách thế giới xây dựng nền tảng vật lý của mình. Các trung tâm dữ liệu đã không còn là những nhà kho yên tĩnh ở ngoại ô mà trở thành những phần cơ sở hạ tầng gây tranh cãi nhất hành tinh. Chúng tiêu thụ điện năng ở quy mô thách thức cả lưới điện quốc gia và tiêu tốn hàng tỷ gallon nước. Kỷ nguyên của điện toán vô hình đã kết thúc. Ngày nay, AI được định nghĩa bằng bê tông, thép và khả năng thô sơ trong việc di chuyển nhiệt từ nơi này sang nơi khác. Nếu một công ty không thể đảm bảo có được hàng ngàn mẫu đất và một trạm biến áp điện chuyên dụng, thì tham vọng phần mềm của họ trở nên vô nghĩa. Cuộc chiến giành quyền thống trị AI không còn chỉ là về việc ai có thuật toán tốt nhất. Đó là về việc ai có thể xây dựng được bộ tản nhiệt lớn nhất.

Bê tông, thép và giấy phép quy hoạch

Việc xây dựng một trung tâm dữ liệu hiện đại là một kỳ công kỹ thuật hạng nặng, sánh ngang với việc xây dựng một sân bay nhỏ. Mọi thứ bắt đầu bằng việc mua đất. Các nhà phát triển tìm kiếm những khu đất bằng phẳng gần các đường dây truyền tải điện cao thế và các trục cáp quang. Việc tìm kiếm này ngày càng khó khăn khi các vị trí đắc địa ở Bắc Virginia hay Dublin đã đạt đến giới hạn công suất. Khi đã có địa điểm, quá trình cấp phép bắt đầu. Đây là nơi nhiều dự án bị đình trệ. Chính quyền địa phương không còn dễ dàng phê duyệt các dự án này nữa. Họ đặt câu hỏi về mức độ tiếng ồn từ quạt làm mát và tác động đến giá trị bất động sản địa phương. Một cơ sở quy mô lớn có thể bao phủ hàng trăm ngàn feet vuông. Bên trong, sàn nhà phải chịu được trọng lượng khổng lồ của các rack máy chủ chứa đầy chì và đồng. Đây không phải là những tòa nhà văn phòng tiêu chuẩn. Chúng là những bình áp suất chuyên dụng được thiết kế để duy trì môi trường ổn định trong khi hàng ngàn GPU chạy ở công suất tối đa. Khối lượng vật liệu cần thiết là rất đáng kinh ngạc. Hàng ngàn tấn thép kết cấu và hàng dặm đường ống chuyên dụng được cần đến để tạo ra các vòng lặp mang nhiệt ra khỏi bộ vi xử lý. Nếu không có các thành phần vật lý này, mạng thần kinh tiên tiến nhất cũng chỉ là một tập hợp các tệp tĩnh trên ổ cứng. Ngành công nghiệp đang nhận ra rằng trong khi phần mềm có thể mở rộng với tốc độ ánh sáng, thì việc đổ bê tông và lắp đặt thiết bị đóng cắt điện lại phụ thuộc vào tốc độ của bộ máy hành chính địa phương và chuỗi cung ứng toàn cầu.

Địa chính trị mới của Megawatt

Điện năng đã trở thành loại tiền tệ tối thượng trong thế giới công nghệ. Các chính phủ hiện coi trung tâm dữ liệu là tài sản chiến lược tương tự như các nhà máy lọc dầu hoặc nhà máy sản xuất chất bán dẫn. Điều này tạo ra một sự căng thẳng khó khăn. Một mặt, các quốc gia muốn sở hữu cơ sở hạ tầng cung cấp năng lượng cho nền kinh tế tương lai. Mặt khác, nhu cầu năng lượng đang đe dọa làm mất ổn định lưới điện địa phương. Ở một số khu vực, một khuôn viên trung tâm dữ liệu duy nhất có thể tiêu thụ lượng điện bằng cả một thành phố cỡ trung bình. Điều này dẫn đến một hình thức bảo hộ năng lượng mới. Các quốc gia đang bắt đầu ưu tiên nhu cầu AI trong nước hơn là nhu cầu của các gã khổng lồ công nghệ quốc tế. Cơ quan Năng lượng Quốc tế đã lưu ý rằng mức tiêu thụ điện của trung tâm dữ liệu có thể tăng gấp đôi khi nhu cầu đào tạo AI ngày càng tăng. Điều này khiến các công ty công nghệ rơi vào tình thế cạnh tranh trực tiếp với người dân và các ngành công nghiệp truyền thống để giành lấy nguồn cung năng lượng xanh hạn chế. Chúng ta đang thấy một sự thay đổi nơi các trung tâm dữ liệu không còn chỉ là các trung tâm kỹ thuật mà giờ đây là những quân bài mặc cả chính trị. Các chính phủ đang yêu cầu các công ty phải tự xây dựng các nguồn năng lượng tái tạo hoặc đóng góp vào việc nâng cấp lưới điện như một điều kiện để được cấp phép xây dựng. Kết quả là một bản đồ toàn cầu bị chia cắt, nơi sự phát triển AI tập trung ở những khu vực có thể chịu được tải trọng điện khổng lồ. Sự tập trung địa lý này tạo ra những rủi ro mới cho sự ổn định toàn cầu và chủ quyền dữ liệu khi một số ít khu vực giàu năng lượng trở thành những người gác cổng của trí tuệ máy móc.

Tiếng ồn, nhiệt độ và sự phản kháng của địa phương

Hãy xem xét thực tế hàng ngày của một quản lý dự án tại một công trường xây dựng trung tâm dữ liệu lớn. Buổi sáng của họ không bắt đầu bằng việc xem xét code. Nó bắt đầu bằng một bản tóm tắt về tình trạng của một đường ống dẫn nước mới. Họ dành hàng giờ để phối hợp với các công ty tiện ích để đảm bảo nguồn điện vẫn ổn định trong đợt nắng nóng. Người quản lý này là cầu nối giữa thế giới kỹ thuật số và cộng đồng vật lý. Vào buổi chiều, họ có thể tham dự một cuộc họp thị trấn nơi những cư dân giận dữ phàn nàn về tiếng ồn tần số thấp của các thiết bị làm mát. Tiếng ồn này là lời nhắc nhở thường xuyên đối với những người hàng xóm rằng một quá trình công nghiệp khổng lồ đang diễn ra ngay trong sân sau của họ. Nhiệt lượng do hàng ngàn con chip tạo ra phải đi đâu đó. Trong hầu hết các trường hợp, nó được xả vào khí quyển hoặc chuyển vào nước. Điều này tạo ra một dấu chân nước khổng lồ. Một cơ sở lớn có thể sử dụng hàng triệu gallon nước mỗi ngày để làm mát bằng bay hơi. Ở những khu vực dễ bị hạn hán, đây là điểm nóng cho sự phản kháng của địa phương. Nông dân và cư dân ngày càng không muốn đánh đổi an ninh nước địa phương của họ lấy nhu cầu đào tạo một mô hình ngôn ngữ lớn hơn của một công ty. Sự ma sát này đang thay đổi cách các công ty thiết kế hệ thống của họ. Họ buộc phải xem xét việc làm mát vòng kín hoặc thậm chí di dời đến những vùng khí hậu lạnh hơn như các nước Bắc Âu để giảm sự phụ thuộc vào nguồn nước địa phương. Mâu thuẫn rất rõ ràng. Chúng ta muốn những lợi ích của AI nhưng chúng ta ngày càng ngần ngại sống chung với những hậu quả vật lý của việc sản xuất nó. Sự phản kháng của địa phương này không phải là một rào cản nhỏ. Đó là một hạn chế cơ bản đối với sự phát triển của ngành. Những người sống gần các cơ sở này là những người đang phải trả cái giá ẩn cho mỗi truy vấn tìm kiếm và hình ảnh được tạo ra.

Quy mô của cơ sở hạ tầng này thường bị công chúng đánh giá thấp. Trong khi nhiều người tập trung vào năng lượng được sử dụng để chạy một mô hình, năng lượng được sử dụng để xây dựng chính trung tâm dữ liệu đó thường bị bỏ qua. Điều này bao gồm dấu chân carbon của xi măng và việc khai thác các kim loại đất hiếm cần thiết cho phần cứng.

Chúng ta thường đánh giá quá cao hiệu quả của các hệ thống này trong khi đánh giá thấp các yêu cầu về nguyên liệu thô. Ngành công nghiệp hiện đang trong chu kỳ xây dựng nhanh nhất có thể để đáp ứng nhu cầu, điều này thường dẫn đến việc cắt giảm các tiêu chuẩn về tính bền vững lâu dài. Điều này tạo ra một khoản nợ mà cuối cùng sẽ phải được trả bởi môi trường địa phương và khí hậu toàn cầu. Khi chúng ta nhìn về tương lai, câu hỏi đặt ra là liệu chúng ta có thể tìm ra cách tách biệt sự tiến bộ của AI khỏi sự mở rộng vật lý khổng lồ này hay không.

Cái giá ẩn của hiệu quả

Sự hoài nghi kiểu Socrates buộc chúng ta phải nhìn xa hơn các báo cáo bền vững của doanh nghiệp. Nếu một công ty tuyên bố trung tâm dữ liệu của họ là trung hòa carbon, chúng ta phải hỏi carbon đó đã được chuyển đi đâu. Thông thường, các công ty mua tín chỉ năng lượng tái tạo trong khi vẫn lấy tải trọng lớn từ lưới điện chạy bằng than trong giờ cao điểm. Những chi phí ẩn của sự sắp xếp này là gì? Sự hiện diện của một trung tâm dữ liệu khổng lồ có làm tăng giá điện cho các gia đình địa phương không? Ở nhiều thị trường, câu trả lời là có. Chúng ta cũng phải xem xét những tác động về quyền riêng tư của sự tập trung vật lý này. Khi một vài khuôn viên khổng lồ nắm giữ phần lớn sức mạnh xử lý của thế giới, chúng trở thành những điểm thất bại duy nhất và là mục tiêu hàng đầu cho việc giám sát hoặc phá hoại. Có khôn ngoan không khi tập trung trí tuệ tập thể của chúng ta vào vài chục khu vực mật độ cao? Cũng có câu hỏi về nước. Khi một trung tâm dữ liệu sử dụng nước đô thị đã qua xử lý để làm mát, về cơ bản nó đang cạnh tranh với người dân địa phương để giành lấy một nguồn tài nguyên duy trì sự sống. Một chatbot nhanh hơn có đáng giá hơn một mực nước ngầm thấp hơn không? Đây không phải là những câu hỏi kỹ thuật. Chúng là những câu hỏi về đạo đức và chính trị. Chúng ta phải hỏi ai được hưởng lợi từ cơ sở hạ tầng này và ai phải gánh chịu gánh nặng. Các công ty công nghệ thu lợi nhuận và năng lực, trong khi cộng đồng địa phương phải đối phó với tiếng ồn, giao thông và áp lực môi trường. Sự mất cân bằng này là cốt lõi của làn sóng phản đối ngày càng tăng đối với sự mở rộng vật lý của ngành công nghiệp AI. Chúng ta cần xác định giới hạn của sự tăng trưởng này trước khi dấu chân vật lý trở nên không thể kiểm soát được.

Thiết kế nhiệt và mật độ Rack

Đối với người dùng chuyên nghiệp, các hạn chế của AI nằm trong các thông số kỹ thuật của rack máy chủ. Chúng ta đang chuyển từ làm mát bằng không khí truyền thống sang làm mát bằng chất lỏng như một tiêu chuẩn. Lý do là vật lý đơn giản. Không khí không thể mang nhiệt đi đủ nhanh để theo kịp mật độ năng lượng của các con chip hiện đại. Một GPU NVIDIA H100 có thể có công suất thiết kế nhiệt là 700 watt. Khi bạn đóng gói hàng chục GPU này vào một rack duy nhất, bạn đang đối phó với một nguồn nhiệt có thể làm tan chảy phần cứng tiêu chuẩn nếu quá trình làm mát thất bại chỉ trong vài giây. Điều này dẫn đến việc áp dụng làm mát bằng chất lỏng trực tiếp lên chip, nơi chất làm mát được bơm trực tiếp qua bộ vi xử lý. Điều này đòi hỏi một cơ sở hạ tầng đường ống hoàn toàn khác bên trong trung tâm dữ liệu. Nó cũng thay đổi quy trình làm việc cho các kỹ sư. Giờ đây, họ phải quản lý áp suất chất lỏng và hệ thống phát hiện rò rỉ cùng với việc triển khai phần mềm của họ. Giới hạn API thường là sự phản ánh trực tiếp của các hạn chế về nhiệt và điện này. Một nhà cung cấp giới hạn token của bạn không chỉ để tiết kiệm tiền, mà còn để ngăn phần cứng của họ đạt đến ngưỡng nhiệt có thể kích hoạt việc tắt máy. Lưu trữ cục bộ cũng đang trở thành một nút thắt cổ chai. Việc di chuyển các tập dữ liệu khổng lồ cần thiết cho việc đào tạo vào các cụm mật độ cao này đòi hỏi mạng chuyên dụng có thể xử lý thông lượng terabit. Việc tích hợp các hệ thống này vào một quy trình làm việc mạch lạc là thách thức chính đối với các nhóm DevOps hiện đại. Họ không còn chỉ quản lý các container. Họ đang quản lý trạng thái vật lý của phần cứng. Phần kỹ thuật này của ngành là nơi sự đổi mới thực sự đang diễn ra, khi các kỹ sư tìm cách vắt kiệt hiệu suất từ mỗi watt và mỗi lít nước. Bạn có thể tìm thêm chi tiết về các yêu cầu kỹ thuật này trong hướng dẫn toàn diện về cơ sở hạ tầng AI của chúng tôi tại [Insert Your AI Magazine Domain Here].

Bạn có câu chuyện, công cụ, xu hướng hoặc câu hỏi về AI mà bạn nghĩ chúng tôi nên đề cập không? Gửi cho chúng tôi ý tưởng bài viết của bạn — chúng tôi rất muốn nghe từ bạn.

Khoảng cách cơ sở hạ tầng chưa được giải quyết

Điểm mấu chốt là AI có giới hạn vật lý. Chúng ta không thể tiếp tục tăng quy mô mô hình vô thời hạn mà không đụng phải bức tường về khả năng cung cấp điện và công suất làm mát. Ngành công nghiệp hiện đang đặt cược rằng những cải tiến về hiệu quả sẽ vượt xa sự tăng trưởng về nhu cầu, nhưng dữ liệu cho thấy điều ngược lại. Chúng ta đang xây dựng một thế giới kỹ thuật số trên một nền tảng vật lý vốn đã chịu áp lực đáng kể. Các công ty thành công nhất trong thập kỷ tới sẽ là những công ty làm chủ được lớp vật lý của stack. Họ sẽ là những người đảm bảo được đất đai, điện và nước trước khi các đối thủ cạnh tranh làm điều đó. Đây là một cuộc đua có tính rủi ro cao sẽ định hình lại các thành phố và lưới điện của chúng ta. Một câu hỏi vẫn còn đó. Liệu công chúng cuối cùng có yêu cầu một giới hạn cứng đối với các nguồn lực dành cho AI, hay chúng ta sẽ tiếp tục ưu tiên sự tiến bộ ảo hơn là sự bền vững vật lý? Câu trả lời sẽ quyết định hình dạng tương lai công nghệ của chúng ta. Sự căng thẳng giữa tham vọng kỹ thuật số và thực tế vật lý là xung đột định hình kỷ nguyên AI.

Lưu ý của biên tập viên: Chúng tôi tạo trang web này như một trung tâm tin tức và hướng dẫn AI đa ngôn ngữ dành cho những người không phải là chuyên gia máy tính, nhưng vẫn muốn hiểu trí tuệ nhân tạo, sử dụng nó tự tin hơn và theo dõi tương lai đang đến gần.

Tìm thấy lỗi hoặc điều gì đó cần được sửa chữa? Hãy cho chúng tôi biết.