Nvidia-ийн $100 тэрбумын босго ба AI агентын бодит сорилт

Компанийн дата төвийн орлого жилийн өмнөхөөс хоёр дахин өссөн бөгөөд ашиг нь $59.7 тэрбумд хүрчээ. Энэ нь AI модел сургах, ажиллуулах дэд бүтцийн зардал технологийн салбарын гол хөрөнгө оруулалтын чиглэл хэвээр байгааг баталж байна. Гэхдээ ийм өсөлт нь чип, санах ой, цахилгаан, сүлжээний хүчин чадлын дарамтыг улам өсгөнө. Хөгжүүлэгчид болон байгууллагууд GPU-ийн эрэлтээс гадна inference-ийн өртөг, багтаамжийн баталгааг анхаарах хэрэгтэй болно.

Hugging Face нь модел түгээх, турших, хамтран хөгжүүлэх ажлын гол зангилаа болсон платформ. Nvidia үүнийг авбал GPU, моделийн сан, хөгжүүлэгчийн ажлын урсгалыг илүү нягт уялдуулах боломжтой болно. Нөгөө талд, нээлттэй эхийн нийгэмлэг платформын бие даасан байдал болон олон үүлэн үйлчилгээтэй ажиллах нээлттэй байдлыг ажиглана. Хэлцлийн албан ёсны баталгаа, зохицуулалтын үнэлгээ болон Hugging Face-ийн лицензийн бодлого дараагийн гол асуулт болно.

AI агент нь зөвхөн хариулт үүсгэхээс гадна олон системд хандаж, дараалсан үйлдэл хийх үед алдааны өртөг эрс өсдөг. Ялангуяа эрхийн удирдлага, өгөгдөл өөрчлөх, үйлдвэрлэлийн орчинд нэвтрүүлэх ажилд хүний хяналт зайлшгүй шаардлагатай хэвээр байна. Байгууллагууд агент нэвтрүүлэхдээ ажлын байрыг шууд орлуулах зорилгоос илүү давтагддаг, буцаан засахад хялбар ажлаас эхлэх нь бодитой. Үйлдлийн эрхийн хязгаар, аудитын мөр, туршилтын орчин, таслан зогсоох механизм нь гол хамгаалалт болно.

Үнэгүй болон хямд багцын хэрэглээг орлого болгох шаардлага AI үйлчилгээний өртөгтэй шууд холбоотой. Модел ажиллуулах, дата төв, тооцооллын зардал өндөр хэвээр байгаа үед зар нь захиалгын орлогыг нөхөх нэг арга болж байна. Хэрэглэгчдийн хувьд хамгийн чухал нь зар хариултын агуулга, зөвлөмж, хайлтын үр дүнд хэрхэн нөлөөлөх вэ гэдэг асуулт. OpenAI зарын шошгололт, өгөгдөл ашиглалт болон төлбөртэй багцын ялгааг хэр тодорхой тайлбарлахыг ажиглах хэрэгтэй.

Нууц түлхүүр илрүүлэх зэрэг хамгаалалтын ажилд худал эерэг сэрэмжлүүлэг хэт олшрох нь багийн анхаарлыг сарниулж, жинхэнэ эрсдэлийг алдах шалтгаан болдог. Харин худал сөрөг үр дүн нь нууц мэдээлэл алдагдах эрсдэлтэй тул нарийвчлал дангаараа хангалтгүй хэмжүүр юм. Байгууллагууд өөрийн өгөгдөл, хэрэглэгчийн урсгал, алдааны өртөгт суурилсан үнэлгээний багц бэлдэх хэрэгтэй. Шинэ модель эсвэл prompt-ыг нэвтрүүлэхдээ өмнөх хувилбартай харьцуулсан туршилт, хүний хяналттай үе шаттай нэвтрүүлэлт ашиглавал эрсдэл буурна.

Цахиур-нүүрстөрөгчийн технологи нь ердийн батарейгаас эрчим хүчний нягт өндөр тул их багтаамжийг харьцангуй нимгэн их биед багтаах боломж өгдөг. Утасны AI функц, өндөр сэргээх давтамжтай дэлгэц, камерын хэрэглээ нэмэгдэхийн хэрээр батарей нь дахин гол өрсөлдөөний талбар болж байна. Гэхдээ бодит ажиллах хугацаа нь сүлжээ, дэлгэцийн тохиргоо, тоглоом болон камерын хэрэглээнээс ихээхэн хамаарна. Монголын хэрэглэгчид албан ёсны худалдаанд гарах эсэх, сүлжээний зурвасын дэмжлэг, засвар үйлчилгээ, батарей солих нөхцөлийг хамтад нь шалгах нь зөв.