টার্বোকোয়ান্ট: গুগলের এমন এক এআই যা অনেক কম মেমোরিতে একই রকম পারফরম্যান্সের প্রতিশ্রুতি দেয়।

আমরা কয়েক মাস ধরে র‍্যাম সংকট এবং কৃত্রিম বুদ্ধিমত্তা কীভাবে পিসি আপগ্রেড করতে বা হোম সার্ভার স্থাপন করতে ইচ্ছুক ব্যক্তিদের জন্য চিপের চাহিদাকে প্রায় অবিশ্বাস্য পর্যায়ে নিয়ে গেছে, তা নিয়ে আলোচনা করছি। এই প্রেক্ষাপটে, গুগল রিসার্চ টার্বোকোয়ান্ট (TurboQuant) উন্মোচন করেছে, যা একটি কম্প্রেশন কৌশল। এটি নির্ভুলতা বা গতিতে কোনো রকম আপস না করেই এআই মডেলগুলোর জন্য উল্লেখযোগ্যভাবে কম মেমরি ব্যবহারের প্রতিশ্রুতি দেয়—যা শুনতে প্রায় কল্পবিজ্ঞানের মতো মনে হলেও, ইতিমধ্যেই বাজারকে নাড়িয়ে দিতে শুরু করেছে।

এই সবকিছুর মধ্যে আকর্ষণীয় বিষয়টি হলো যে টার্বোকোয়ান্ট কোনো সামান্য বাহ্যিক পরিবর্তন নয়, বরং এটি বড় ল্যাঙ্গুয়েজ মডেলগুলোর অভ্যন্তরীণ মেমরি পরিচালনার পদ্ধতিতে একটি গভীর পরিবর্তন । আমরা এমন একটি পরিবর্তনের কথা বলছি যা এই সিস্টেমগুলো আপনার টাইপ করা লেখা "মনে রাখার" জন্য যে ওয়ার্কিং মেমরি ব্যবহার করে, তার আকার ছয় গুণ পর্যন্ত কমিয়ে আনে, এবং একই সাথে প্রতিক্রিয়ার মান বজায় রাখে ও অনেক ক্ষেত্রে অ্যাটেনশন ক্যালকুলেশনকে ত্বরান্বিত করে। ব্যবহারকারীদের জন্য, এর অর্থ হতে পারে আরও সস্তা এবং সহজলভ্য এআই; আর মেমরি প্রস্তুতকারকদের জন্য, এটি একটি গুরুতর সতর্কবার্তা যে এই সুসময় হয়তো চিরস্থায়ী হবে না।

TurboQuant কোন সমস্যার সমাধান করে: KV ক্যাশে প্রতিবন্ধকতা

সম্পর্কিত নিবন্ধ:

আপনার বসার ঘরে গুগল টিভিতে জেমিনি কীভাবে ব্যবহার করবেন এবং এর এআই-এর সর্বোচ্চ সুবিধা কীভাবে নেবেন

টার্বোকোয়ান্ট কেন সবার দৃষ্টি আকর্ষণ করেছে তা বুঝতে হলে, আমাদের কেভি ক্যাশে (KV cache) দিয়ে শুরু করতে হবে , যা ল্যাঙ্গুয়েজ মডেলের কার্যকারিতার একটি প্রায় অদৃশ্য কিন্তু অত্যন্ত গুরুত্বপূর্ণ উপাদান। যখনই আপনি চ্যাটজিপিটি (ChatGPT), গুগল জেমিনি (Google Gemini ) বা ক্লদ (Claude)-এর মতো কোনো চ্যাটবটের সাথে চ্যাট করেন, মডেলটি প্রতিটি শব্দের জন্য সবকিছু নতুন করে গণনা করে না: এটি এখন পর্যন্ত যা বলা হয়েছে তার একটি অভ্যন্তরীণ নোটপ্যাড সংরক্ষণ করে রাখে।

ওই নোটপ্যাড ফাইলটি হলো কেভি ক্যাশ (কী-ভ্যালু ক্যাশ) , যা একটি ওয়ার্কিং মেমরি। এখানে মডেলটি কী এবং ভ্যালু সংরক্ষণ করে, যা তার বিশ্লেষণাধীন কথোপকথন বা ডকুমেন্টের প্রেক্ষাপটকে উপস্থাপন করে। প্রতিটি নতুন বার্তার সাথে এই ক্যাশ বাড়তে থাকে এবং দীর্ঘ সংলাপ বা বিস্তৃত টেক্সটযুক্ত টাস্কের ক্ষেত্রে এটি জিপিইউ বা অ্যাক্সিলারেটরের এইচবিএম-এ বিপুল পরিমাণ মেমরি দখল করে নেয়।

এর বাস্তব প্রভাব সহজেই কল্পনা করা যায়: প্রায় ৫১২ জন ব্যবহারকারীর জন্য সমান্তরালভাবে একটি বড় মডেল চালাতে শুধুমাত্র কেভি ক্যাশেই ৫১২ জিবি পর্যন্ত ব্যবহৃত হতে পারে , যা মডেলটির নিজের দখল করা মেমোরি স্পেসের প্রায় চারগুণ। এই লুকানো খরচটিই একটি ২৪/৭ জেনারেটিভ এআই পরিষেবা রক্ষণাবেক্ষণকে অত্যন্ত ব্যয়বহুল করে তোলে, শুধু প্রাথমিক প্রশিক্ষণের জন্যই নয়, বরং দৈনিক ইনফারেন্সের জন্যও।

এখানেই টার্বোকোয়ান্টের ভূমিকা। গুগল রিসার্চ এমন একটি অ্যালগরিদম তৈরি করেছে যা বোধগম্যতা, কোড জেনারেশন, সারসংক্ষেপ তৈরি বা দীর্ঘ প্রেক্ষাপট বিশ্লেষণের মতো কাজগুলিতে মডেলের মানের কোনো উল্লেখযোগ্য ক্ষতি ছাড়াই ক্যাশে ছয় গুণ পর্যন্ত সংকুচিত করতে সক্ষম। অধিকন্তু, এটি মডেলটিকে পুনরায় প্রশিক্ষণ দেওয়া বা কোনো নির্দিষ্ট ফাইন-টিউনিং প্রয়োগ করা ছাড়াই এই কাজটি করে, যা এর ব্যবহারিক প্রয়োগকে ব্যাপকভাবে সহজ করে তোলে।

টার্বোকোয়ান্ট যেভাবে কাজ করে: ভেক্টর কোয়ান্টাইজেশনের চরম রূপ

টার্বোকোয়ান্টের মূল বৈশিষ্ট্য হলো এটি শুধু বেশি কম্প্রেসই করে না, বরং কেভি ক্যাশে-কে আরও ভালোভাবে কম্প্রেস করে । এই কৌশলটি অত্যন্ত আগ্রাসী ভেক্টর কোয়ান্টাইজেশনের উপর ভিত্তি করে তৈরি, যা মানের উল্লেখযোগ্য কোনো ক্ষতি ছাড়াই প্রতিটি উপাদানের মানকে ৩ বিট পর্যন্ত ঠেলে দেয়। এলএলএম অ্যাটেনশন ক্যালকুলেশনের মতো সংবেদনশীল ক্ষেত্রে যা এখন পর্যন্ত প্রায় অসম্ভব বলে মনে হতো।

গুগল টার্বোকোয়ান্ট-এ দুটি প্রধান ধারণাকে একত্রিত করে: পোলারকোয়ান্ট এবং কিউজেএল । একদিকে, পোলারকোয়ান্ট ভেক্টরগুলোকে পুনর্বিন্যাস করে এবং সেগুলোকে একটি ভিন্ন স্থানাঙ্ক ব্যবস্থায় স্থানান্তর করে, যার ফলে সেগুলোকে সংকুচিত করা সহজ হয়। অন্যদিকে, কিউজেএল একটি ওয়ান-বিট কারেকশন যোগ করে যা অবশিষ্ট ত্রুটির ক্ষতিপূরণ করে এবং প্রক্রিয়াকরণের সময় মডেলটিকে টেক্সটের ভুল অংশে মনোযোগ দেওয়া থেকে বিরত রাখে, যার ফলে গণনার নির্ভুলতা বজায় থাকে।

PolarQuant-এর সাহায্যে , ভেক্টরগুলিকে আর প্রচলিত কার্টেসিয়ান স্থানাঙ্ক (X, Y, Z) ব্যবহার করে উপস্থাপন করা হয় না, বরং এমন একটি পদ্ধতিতে প্রকাশ করা হয় যেখানে একটি ব্যাসার্ধ এবং এক বা একাধিক কোণ ব্যবহার করা হয়। একটি সহজ উদাহরণ দিয়ে বোঝানো যাক, "তিন ধাপ পূর্বে এবং চার ধাপ উত্তরে যাও" বলার পরিবর্তে, আপনি মডেলটিকে বলেন "৩৭ ডিগ্রি কোণে পাঁচ ধাপ যাও"। তথ্য এনকোড করার এই পদ্ধতিটি একই অবস্থানকে কম ডেটা দিয়ে বর্ণনা করার সুযোগ করে দেয়, যা অনেক বেশি কম্প্রেশনের পথ খুলে দেয়।

মূল বিষয়টি হলো, প্রচলিত কোয়ান্টাইজেশন পদ্ধতিগুলোতে কম্প্রেশনের কারণে গুণমান নষ্ট হওয়া রোধ করতে অতিরিক্ত কনস্ট্যান্ট বা স্কেল সংরক্ষণ করার প্রয়োজন হতো , যা প্রতিটি মানের জন্য এক বা দুটি অতিরিক্ত বিট যোগ করত। এই অতিরিক্ত মেমরি খরচ সাশ্রয়ের একটি উল্লেখযোগ্য অংশকে নষ্ট করে দিত। অন্যদিকে, PolarQuant এই অতিরিক্ত ওভারহেড কমিয়ে দেয় বা দূর করে, যার ফলে অত্যন্ত বৃহৎ পরিসরে লক্ষ লক্ষ ভেক্টর নিয়ে কাজ করার সময় সত্যিই উল্লেখযোগ্য নেট কম্প্রেশন সম্ভব হয়।

সিস্টেমের দ্বিতীয় উপাদানটি হলো QJL, একটি অতিরিক্ত সংশোধন স্তর যা জনসন-লিন্ডেনস্ট্রস ট্রান্সফর্মের একটি কোয়ান্টাইজড সংস্করণ ব্যবহার করে । বাস্তবে, অবশিষ্ট ত্রুটিকে একটি নিম্ন-মাত্রিক স্থানে প্রক্ষেপণ করা হয় এবং প্রতিটি মানকে একটি একক সাইন বিট দিয়ে এনকোড করা হয়, যা সিস্টেমে কার্যত কোনো মেমরি খরচ যোগ করে না। এই সামান্য সমন্বয়টি এমন আগ্রাসী কোয়ান্টাইজেশনের ফলে সৃষ্ট পক্ষপাতগুলো সংশোধন করে এবং সঞ্চিত ত্রুটিগুলোকে নিয়ন্ত্রণে রাখে।

PolarQuant এবং QJL-কে একত্রিত করার ফলে গুগল Key Value ক্যাশে-কে ৩ বিটে কোয়ান্টাইজ করতে পারে, এবং এমনকি অপারেশনগুলোকে ত্বরান্বিত করার জন্য ৪ বিটও ব্যবহার করতে পারে, যা কর্মক্ষমতার কোনো লক্ষণীয় অবনতি ছাড়াই সম্ভব । Nvidia H100 GPU-এর সাথে অভ্যন্তরীণ পরীক্ষায়, কোয়ান্টাইজ না করা ৩২-বিট কী-এর তুলনায় অ্যাটেনশন ক্যালকুলেশন আট গুণ পর্যন্ত দ্রুততর ছিল, যা একটি ডেটা সেন্টার পরিবেশে একটি উল্লেখযোগ্য পার্থক্য তৈরি করে।

বেঞ্চমার্ক ফলাফল এবং স্বাধীন প্রযুক্তিগত যাচাইকরণ

শুধুমাত্র প্রতিশ্রুতির বাইরে গিয়ে, গুগল খেলনা-সদৃশ উদাহরণের উপর নির্ভর করা এড়াতে বিভিন্ন ধরনের দীর্ঘ-প্রসঙ্গের বেঞ্চমার্কে টার্বোকোয়ান্ট পরীক্ষা করেছে । এই পরীক্ষাগুলোর মধ্যে ছিল লংবেঞ্চ, নিডল ইন এ হেস্ট্যাক, জিরোস্ক্রোলস, রুলার এবং এল-ইভ্যাল, যা মডেলগুলোর ব্যাপক টেক্সট সামলানোর ক্ষমতা, বিশাল ডকুমেন্টের মধ্যে নির্দিষ্ট তথ্য খুঁজে বের করা এবং জটিল কাজে সামঞ্জস্য বজায় রাখার সক্ষমতা পরিমাপ করে।

গবেষকরা জেমা এবং মিস্ট্রালের মতো ওপেন মডেলগুলিতে টার্বোকোয়ান্ট মূল্যায়ন করেছেন এবং এটিকে KIVI-এর মতো প্রতিষ্ঠিত কৌশল এবং ভেক্টর পুনরুদ্ধারে ব্যবহৃত প্রোডাক্ট কোয়ান্টাইজেশন ও র‍্যাবিকিউ-সহ স্ট্যান্ডার্ড কোয়ান্টাইজেশন পদ্ধতির সাথে তুলনা করেছেন। গুগলের বার্তাটি অত্যন্ত জোরালো: সংকুচিত মডেলটি মূল মডেলের অনুরূপ বা কার্যত অভিন্ন ফলাফল অর্জন করে , এবং একই সাথে কেভি ক্যাশের আকারও উল্লেখযোগ্যভাবে হ্রাস করে।

এই টেস্ট বেঞ্চগুলোর কয়েকটিতে, গুগল টিম সরাসরি "পরিপূর্ণ গুণগত নিরপেক্ষতা" -র কথা বলে : মূল্যায়ন করা মেট্রিকগুলোর ক্ষেত্রে কোয়ান্টাইজড মডেলের আচরণ, আনকম্প্রেসড মডেলের আচরণের সাথে বিট-বাই-বিট সমতুল্য। এটি এমন নয় যে "এটি বেশ একই রকম," বরং পরীক্ষার সীমার মধ্যে সিস্টেমটি অভিন্নভাবে সাড়া দেয়।

এর আরেকটি উল্লেখযোগ্য বৈশিষ্ট্য হলো, টার্বোকোয়ান্টের জন্য মডেলকে পুনরায় প্রশিক্ষণ দেওয়া বা নির্দিষ্ট ডেটা দিয়ে সূক্ষ্মভাবে সমন্বয় করার প্রয়োজন হয় না । এটি বিদ্যমান মডেলগুলোর উপরে একটি অতিরিক্ত স্তর হিসেবে প্রয়োগ করা হয়, যার রানটাইম ওভারহেড অত্যন্ত কম, যা বৃহৎ পরিসরের প্রোডাকশন ডেপ্লয়মেন্টের জন্য অপরিহার্য।

যদিও গুগল এখনও এর বাস্তবায়নসহ কোনো আনুষ্ঠানিক রিপোজিটরি প্রকাশ করেনি, স্বাধীন ডেভেলপাররা গবেষণাপত্রটি থেকে অ্যালগরিদমটি প্রতিলিপি করেছেন এবং সফলভাবে ফলাফলগুলো পুনরুৎপাদন করেছেন, যার মধ্যে মূল মডেল এবং কনজিউমার জিপিইউ-তে সংকুচিত মডেলের মধ্যে অভিন্ন আউটপুটও রয়েছে। এটি জোরালোভাবে ইঙ্গিত দেয় যে আমরা কোনো অ্যাকাডেমিক অতিরঞ্জন নিয়ে কাজ করছি না, বরং এটি একটি পুনরুৎপাদনযোগ্য কৌশল।

মেমরি, পারফরম্যান্স এবং মডেল ডেপ্লয়মেন্টের উপর প্রভাব

উপরোক্ত সবকিছু থেকে তাৎক্ষণিক উপসংহারটি স্পষ্ট: যদি কেভি ক্যাশে ছয় গুণ পর্যন্ত কমানো হয়, তবে একই হার্ডওয়্যার উল্লেখযোগ্যভাবে আরও বেশি কাজ করতে পারে । জিপিইউ-এর একটি নির্দিষ্ট সেট দিয়ে, একজন এআই বিক্রেতা তাদের অগ্রাধিকারের উপর নির্ভর করে বিভিন্ন কৌশল বেছে নিতে পারেন।

একটি উপায় হলো একই পরিকাঠামো দিয়ে একই সাথে আরও বেশি ব্যবহারকারীকে সামলানো , কারণ এতে প্রতিটি কথোপকথনে উল্লেখযোগ্যভাবে কম মেমরি ব্যবহৃত হবে। আরেকটি উপায় হলো আরও দীর্ঘ প্রেক্ষাপট সমর্থন করা , যা বর্ণনা বাদ দেওয়া বা মধ্যবর্তী সারসংক্ষেপ কৌশল ব্যবহার না করেই ব্যাপক সংলাপ বা বিশাল নথিপত্রের সুযোগ করে দেয়। এবং অবশ্যই, কম মেমরিযুক্ত মেশিনে আরও বড় মডেল চালানোর সম্ভাবনাও রয়েছে , যা সীমিত সম্পদের পরিবেশে আরও শক্তিশালী ডেপ্লয়মেন্টের পথ খুলে দেয়।

পারফরম্যান্সের দিক থেকে, অ্যাটেনশন ক্যালকুলেশনের এই উন্নতি—যা ৪-বিট কনফিগারেশনে H100-এর তুলনায় আট গুণ পর্যন্ত দ্রুততর —ব্যবহারকারীর অনুভূত ল্যাটেন্সি এবং প্রতি টোকেন প্রক্রিয়াকরণের খরচের উপর সরাসরি প্রভাব ফেলে। যদিও এই ৮ গুণ উন্নতিটি পাইপলাইনের একটি নির্দিষ্ট উপাদানের ক্ষেত্রে প্রযোজ্য এবং সম্পূর্ণ ইনফারেন্স প্রক্রিয়ার ক্ষেত্রে নয়, তবুও ল্যাঙ্গুয়েজ মডেলের অন্যতম রিসোর্স-নিবিড় ধাপগুলোর একটিতে এটি একটি উল্লেখযোগ্য অগ্রগতি।

গুগল একটি বাস্তব উদাহরণের মাধ্যমে এর অর্থনৈতিক প্রভাব তুলে ধরেছে: এনভিডিয়া ব্ল্যাকওয়েল চিপে ৪-বিট প্রযুক্তি ব্যবহার করে কোয়ান্টাইজ করা, প্রায় ৬৯০ বিলিয়ন প্যারামিটার বিশিষ্ট একটি মডেলের দাম, ঘন বিন্যাসে প্রতি মিলিয়ন টোকেনের জন্য প্রায় ১ ডলার থেকে কমে প্রায় ০.০৫ ডলারে নেমে আসতে পারে। এটি একক খরচের একটি নাটকীয় হ্রাস, যা বাণিজ্যিক পরিষেবাগুলিতে প্রয়োগ করা হলে বাজারের দামে আমূল পরিবর্তন আনতে পারে।

তবে, একটি গুরুত্বপূর্ণ বিষয় বোঝা জরুরি: টার্বোকোয়ান্ট ইনফারেন্স পর্যায়ে প্রযোজ্য, ট্রেনিং পর্যায়ে নয় । বিশাল মডেলের ট্রেনিং পর্যায়ে এখনও প্রচুর পরিমাণে মেমরি এবং কম্পিউটিং পাওয়ারের প্রয়োজন হয়, তাই HBM, GDDR এবং উচ্চ-ক্ষমতাসম্পন্ন র‍্যামের চাহিদা রাতারাতি উধাও হয়ে যায় না। টার্বোকোয়ান্ট যা করে তা হলো, লক্ষ লক্ষ ব্যবহারকারীর জন্য এই মডেলগুলো চালু রাখার চলমান খরচ কমিয়ে দেয়।

মেমরি শিল্প এবং শেয়ার বাজারের উপর এর পরিণতি

টার্বোকোয়ান্টের ঘোষণার প্রভাব দ্রুতই সবচেয়ে দুর্বল জায়গায় গিয়ে পড়ে: প্রধান মেমোরি প্রস্তুতকারক সংস্থাগুলোর শেয়ারের দামে । এআই-এর র‍্যাম ও এইচবিএম-এর চাহিদার কারণে মাইক্রন, স্যামসাং, এসকে হাইনিক্স, স্যানডিস্ক (ওয়েস্টার্ন ডিজিটাল) এবং কিওক্সিয়ার মতো সংস্থাগুলো তখন রমরমা ব্যবসা উপভোগ করছিল, এবং ‘কম খরচে একই জিনিস’ করার মতো একটি প্রযুক্তির সম্ভাবনাই তাদের মধ্যে বিপদের ঘণ্টা বাজিয়ে দিয়েছে।

গবেষণাটি প্রকাশিত হওয়ার পর এই নির্মাতাদের মধ্যে বেশ কয়েকটির শেয়ারের দামে উল্লেখযোগ্য পতন ঘটে । কিছু ক্ষেত্রে, সাম্প্রতিক সর্বোচ্চ স্তর থেকে ২০%-এরও বেশি সম্মিলিত দরপতনের খবর পাওয়া গেছে; নির্দিষ্ট কিছু দিনে স্যামসাং-এর শেয়ারের দাম প্রায় ৮%, এসকে হাইনিক্স-এর প্রায় ১১% এবং মাইক্রন-এর প্রায় ১০% কমে যায়। ওয়েস্টার্ন ডিজিটাল এবং অন্যান্য সংস্থাগুলোও এই নিম্নমুখী প্রবণতার কবলে পড়ে।

অনেক বিনিয়োগকারীর যুক্তি বেশ সহজবোধ্য: যদি বড় আকারের এআই মডেলগুলো ব্যবহারকারীপ্রতি অনেক কম মেমোরি দিয়ে কাজ করতে পারে , তাহলে ডিআরএএম এবং এইচবিএম চিপের ব্যাপক চাহিদা প্রত্যাশার চেয়েও দ্রুত কমে আসতে পারে। এর ফলে, উৎপাদকদের পক্ষে দাম বাড়ানো এবং অস্বাভাবিক মুনাফা বজায় রাখার সুযোগ কমে যাবে।

তবে, সবাই এই বিপর্যয়কর দৃষ্টিভঙ্গির সঙ্গে একমত নন। আর্থিক খাতের কিছু ব্যক্তি, যেমন মরগ্যান স্ট্যানলির বিশ্লেষকরা , জেভনস প্যারাডক্স নামে পরিচিত একটি বিষয়ের দিকে ইঙ্গিত করেন: যখন কোনো প্রযুক্তি কোনো সম্পদের ব্যবহারকে আরও কার্যকর করে তোলে, তখন সেই সম্পদের মোট ব্যবহার প্রায়শই বেড়ে যায়, কারণ নতুন নতুন অ্যাপ্লিকেশন চালু হয় এবং ব্যবহারের পরিমাণ আকাশচুম্বী হয়ে ওঠে।

এআই-এর ক্ষেত্রে প্রয়োগ করা হলে, ইনফারেন্সের খরচ ব্যাপকভাবে কমানো গেলে ব্যক্তি ও ব্যবসা প্রতিষ্ঠানগুলো এই সিস্টেমগুলো আরও বেশি ব্যবহার করতে পারে , যার ফলে আরও বেশি ট্র্যাফিক, আরও বেশি টোকেন এবং আরও বড় ও জটিল মডেলের প্রয়োজনীয়তা বাড়বে। এই পরিস্থিতিতে, মেমরির চাহিদা কমবে না, বরং আরও তীব্র হবে, যদিও এর বণ্টন ভিন্ন হবে এবং নির্দিষ্ট ধরনের মডিউলগুলোর ওপর চাপ কিছুটা কম পড়বে।

পিসি ব্যবহারকারী এবং ভোক্তা বাজার কীভাবে এটি লক্ষ্য করতে পারে?

যদিও টার্বোকোয়ান্ট মূলত ডেটা সেন্টার এবং বৃহৎ পরিসরের এআই ডেপ্লয়মেন্টের জন্য ডিজাইন করা হয়েছে , এই পদক্ষেপটি কনজিউমার র‍্যাম মার্কেটের কিছু আকর্ষণীয় পরিবর্তনের সাথে মিলে গেছে। উদাহরণস্বরূপ, সাম্প্রতিক সপ্তাহগুলোতে Corsair Vengeance DDR5 32GB at 6000MHz (2x16GB)-এর মতো কিটগুলোর দামে উল্লেখযোগ্য পতন দেখা গেছে, যেগুলোর দাম কিছু অনলাইন স্টোরে প্রায় €490 থেকে কমে প্রায় €340 হয়েছে।

তবে, সতর্ক থাকার পরামর্শ দেওয়া হচ্ছে: গুগলের প্রযুক্তি সরাসরি এআই অ্যাক্সিলারেটরে ব্যবহৃত মেমোরিকে (যেমন, হাই-এন্ড জিপিইউ-এর এইচবিএম) প্রভাবিত করে, ডেস্কটপ বা ল্যাপটপ পিসির জন্য ব্যবহৃত ডিডিআর৫ মডিউলকে নয়। দোকানে আমরা যে মূল্যহ্রাস দেখছি, তার কারণ টার্বোকোয়ান্টের চেয়ে স্বাভাবিক সরবরাহ ও চাহিদার চক্র, নতুন প্রজন্মের আগমন এবং মজুত সমন্বয়।

তবে, যদি বড় এআই কোম্পানিগুলোর প্রতি সার্ভারে কম মেমোরির প্রয়োজন হয় , তাহলে কিছু ডিআরএএম এবং এইচবিএম উৎপাদন সাশ্রয় করে অন্যান্য পণ্যের জন্য বরাদ্দ করা যেতে পারে, অথবা অন্তত সেই চাপ কমানো সম্ভব হবে যা সম্প্রতি প্রায় যেকোনো র‍্যাম মডিউলের দাম বাড়িয়ে দিয়েছে। একটি আশাবাদী পরিস্থিতিতে, এটি ভোক্তা বাজারকে স্বাভাবিক মূল্যের কাছাকাছি ফিরিয়ে আনতে সাহায্য করতে পারে।

একই সাথে, আরেকটি সম্ভাব্য পরিস্থিতি হলো: এই অতিরিক্ত দক্ষতার ফলে আরও বড় মডেল এবং আরও সর্বব্যাপী এআই পরিষেবা তৈরি হবে , যার ফলে মেমোরির মোট চাহিদা ক্রমাগত বাড়তে থাকবে। সেক্ষেত্রে, সাধারণ ব্যবহারকারীরা হয়তো দামে তেমন কোনো উল্লেখযোগ্য হ্রাস দেখতে পাবেন না, অথবা নির্মাতাদের শেয়ার বাজারের পতন দেখার পর অনেকে যেমনটা আশা করছেন, সেই গতিতে হয়তো হ্রাস ঘটবে না।

প্রত্যাশা ও বাস্তবতার এই সংঘাতই সাধারণ মানুষের জন্য পরিস্থিতিকে অনিশ্চিত করে তুলেছে, যারা বন্ধকী ঋণ না নিয়ে শুধু নিজেদের পিসি আপগ্রেড করতে চান । পরিস্থিতি এগোচ্ছে, কিন্তু অনলাইন স্টোরে একটি DDR5 মডিউলের দামের উপর এর চূড়ান্ত প্রভাব এখনও নির্ধারিত হয়নি।

‘পাইড পাইপার মুহূর্ত’ এবং ডিপসিক-এর সাথে সাদৃশ্য

প্রযুক্তি মহলে প্রতিক্রিয়া শুধু ঠান্ডা মাথার বিশ্লেষণেই সীমাবদ্ধ থাকেনি: সঙ্গে সঙ্গেই ‘সিলিকন ভ্যালি’ সিরিজের সঙ্গে এর তুলনা শুরু হয়েছে । ওই শো-তে, পাইড পাইপার নামের স্টার্টআপটি একটি বৈপ্লবিক কম্প্রেশন অ্যালগরিদম তৈরি করছিল, যা প্রযুক্তি শিল্পকে পুরোপুরি বদলে দেওয়ার হুমকি দিচ্ছিল। এর কার্যকারিতা এতটাই চরম ছিল যে তা জাদুর মতো মনে হতো।

টার্বোকোয়ান্ট সোশ্যাল মিডিয়ায় প্রচুর রসিকতা ও তুলনার জন্ম দিয়েছে, যেখানে একে এআই-এর জন্য মেমরির বাঁশিওয়ালা হিসেবে উপস্থাপন করা হচ্ছে । এই রসিকতার মধ্যে কিছুটা সত্যতা আছে: নগণ্য ক্ষতিসহ কম্প্রেশন, যা বিদ্যমান সিস্টেমে প্রয়োগযোগ্য এবং খরচের উপর সরাসরি প্রভাব ফেলে—ঠিক সেই ধরনের উদ্ভাবন যা বাজারের গতিপ্রকৃতি পাল্টে দিতে পারে।

আরেকটি পুনরাবৃত্তিমূলক প্রসঙ্গ হলো গুগলের তথাকথিত "ডিপসিক মোমেন্ট "। কিছুকাল আগে, চীনা স্টার্টআপ ডিপসিক এমন একটি মডেল উপস্থাপন করে ইন্ডাস্ট্রিতে আলোড়ন সৃষ্টি করেছিল, যা সেরাদের সাথে প্রতিযোগিতা করতে পারলেও এর আমেরিকান প্রতিদ্বন্দ্বীদের তুলনায় অনেক কম প্রশিক্ষণ খরচে তৈরি করা হয়েছিল। এটি প্রমাণ করে যে, কেবল বিপুল কম্পিউটিং শক্তিই নয়, দক্ষতাও এই খেলায় আধিপত্য বিস্তারের একটি উপায়।

টার্বোকোয়ান্ট সেই ধারণারই অংশ: এটি বর্তমান মডেলগুলোর মতোই কাজ করে, কিন্তু দৈনন্দিন ব্যবহারে অনেক কম রিসোর্সের প্রয়োজন হয় । এটিকে বুদ্ধিমত্তার চেয়ে বরং ইঞ্জিনিয়ারিং এবং অপটিমাইজেশনের ক্ষেত্রে একটি বড় অগ্রগতি বলা যায়, যা ক্রমবর্ধমান ব্যয়বহুল হার্ডওয়্যারের উপর নির্ভরতা কমাতে অ্যালগরিদম এবং সফটওয়্যার থেকে আরও বেশি সুবিধা আদায়ের বৃহত্তর প্রবণতার সাথে সামঞ্জস্যপূর্ণ।

অন্যতম গুরুত্বপূর্ণ মেশিন লার্নিং সম্মেলন ICLR 2026- এ কাজটি উপস্থাপন করা হবে , এই বিষয়টিই প্রমাণ করে যে এটি কেবল একটি চমকপ্রদ সংবাদ বিজ্ঞপ্তি নয়, বরং গবেষণা মহলে এটি একটি গুরুত্বপূর্ণ অবদান, যা এই ক্ষেত্রের বিশেষজ্ঞদের দ্বারা পর্যালোচনা ও পুঙ্খানুপুঙ্খভাবে যাচাই করা হবে।

আরও অ্যালগরিদম, কম হার্ডওয়্যারের কাঁচা শক্তি।

গত দুই বছর ধরে, কৃত্রিম বুদ্ধিমত্তা (AI) সংক্রান্ত বিতর্কের একটি বড় অংশ জুড়ে ছিল কার কাছে সবচেয়ে বেশি GPU, সবচেয়ে বেশি HBM এবং সবচেয়ে বেশি ডেটা সেন্টার আছে । মনে হচ্ছিল, এর মূল উদ্দেশ্যই ছিল সিলিকন ও বিদ্যুৎ সঞ্চয় করা, যার জন্য করা হচ্ছিল বিপুল পরিমাণ বিনিয়োগ এবং অবকাঠামো সম্প্রসারণ পরিকল্পনা যা একের পর এক রেকর্ড ভেঙেছে।

টার্বোকোয়ান্ট একটি ভিন্ন ধারণার দিকে পরিবর্তনের প্রতীক: অ্যালগরিদম পর্যায়ে অপ্টিমাইজেশনের জন্য এখনও বিশাল সুযোগ রয়েছে । কেবল আরও মেমরি এবং আরও কোর যোগ করে স্কেল আপ করার পরিবর্তে, আমরা প্রতিটি বাইট এবং প্রতিটি অপারেশনকে অর্থবহ করে তোলার চেষ্টা করতে পারি, যা ব্যবহারকারীর অভিজ্ঞতার সাথে আপোস না করেই কেভি ক্যাশের মতো প্রতিবন্ধকতাগুলো হ্রাস করে।

বড় প্রযুক্তি সংস্থাগুলোর জন্য এটি বিশেষভাবে আকর্ষণীয়, কারণ এর ফলে মুনাফার হার না কমিয়েই প্রতিটি ইনফারেন্স টোকেনের দাম কমানোর সুযোগ তৈরি হয় , যেহেতু এর অন্তর্নিহিত খরচ ব্যাপকভাবে কমে যায়। তারা সেই সাশ্রয়টুকু চূড়ান্ত গ্রাহকের কাছে পৌঁছে দেবে, নাকি একই রকম দর বজায় রেখে নিজেদের লাভের পরিমাণ বাড়াতে চাইবে, তা সম্পূর্ণ ভিন্ন একটি বিষয়।

এর পাশাপাশি, এই গবেষণাটি ইকোসিস্টেমকে একটি অত্যন্ত স্পষ্ট বার্তা দেয়: সাফল্য কেবল আরও বেশি মেমরি এবং আরও বেশি চিপ উৎপাদন করার ক্ষমতার উপর নির্ভর করবে না । প্রতিযোগীরা তারাই হবে যারা প্রতিটি গিগাবাইটের কর্মক্ষমতাকে উল্লেখযোগ্যভাবে উন্নত করতে পারবে। স্টার্টআপ এবং ছোট প্রকল্পগুলোর জন্য, টার্বোকোয়ান্টের মতো কৌশলগুলো বিশাল বাজেট ছাড়াই উচ্চতর পর্যায়ে প্রতিযোগিতা করার একটি সুযোগ হতে পারে।

শেষ পর্যন্ত, অনেক এআই প্রকল্পের আসল সীমাবদ্ধতা মডেলটির সক্ষমতার মানের মধ্যে ততটা নয়, যতটা বৃহৎ পরিসরে উৎপাদনে এটিকে টিকিয়ে রাখার খরচের মধ্যে । পরীক্ষাগারে তৈরি একটি চমৎকার সিস্টেমও অপ্রাসঙ্গিক হয়ে পড়ে, যদি লক্ষ লক্ষ মানুষ প্রতিদিন এটি ব্যবহার করার সময় তা অর্থনৈতিকভাবে অসাধ্য বলে প্রমাণিত হয়।

টার্বোকোয়ান্টের মাধ্যমে গুগল যা প্রস্তাব করছে, তার মূল উদ্দেশ্য হলো মেমোরির কারণে আটকে থাকা সম্ভাবনার অনেকটাই উন্মোচন করা : অবকাঠামোকে স্বস্তির নিঃশ্বাস ফেলার সুযোগ দেওয়া, আকাশছোঁয়া খরচ ছাড়াই বৃহত্তর প্রেক্ষাপটকে কাজে লাগানোর সুযোগ করে দেওয়া, এবং এর পাশাপাশি এমন একটি বাজারে র‍্যাম প্রস্তুতকারকদের ভূমিকা পুনর্বিবেচনা করতে বাধ্য করা, যেখানে সফটওয়্যার ক্রমশ হার্ডওয়্যারের ওপর চাপ সৃষ্টি করছে।

চরম কেভি ক্যাশে কম্প্রেশন, ছয় গুণ পর্যন্ত মেমরি সাশ্রয় এবং ত্বরান্বিত অ্যাটেনশন ক্যালকুলেশনের সমন্বয়ের দিকে সবকিছুই ইঙ্গিত করছে, যা এআই-এর প্রসারের পদ্ধতিতে একটি যুগান্তকারী পরিবর্তন আনতে পারে। এর ফলে এমন একটি পরিস্থিতির সৃষ্টি হবে যেখানে প্রশ্নটি আর শুধু আমাদের কতটা র‍্যাম আছে তা নয়, বরং যে অ্যালগরিদমটি সেই র‍্যাম ব্যবহারের সিদ্ধান্ত নেয়, সেটি কতটা বুদ্ধিমান ।

ইসহাক

সাধারণভাবে বাইট এবং প্রযুক্তির বিশ্ব সম্পর্কে উত্সাহী লেখক। আমি লেখার মাধ্যমে আমার জ্ঞান ভাগ করে নিতে পছন্দ করি, এবং আমি এই ব্লগে এটিই করব, আপনাকে গ্যাজেট, সফ্টওয়্যার, হার্ডওয়্যার, প্রযুক্তিগত প্রবণতা এবং আরও অনেক কিছু সম্পর্কে সবচেয়ে আকর্ষণীয় জিনিস দেখাব৷ আমার লক্ষ্য হল আপনাকে একটি সহজ এবং বিনোদনমূলক উপায়ে ডিজিটাল বিশ্বে নেভিগেট করতে সাহায্য করা।