মাইক্রোসফট ও নোভো নরডিস্কের একটি যৌথ উন্নয়ন দল এমন একটি এআই এজেন্ট নতুন করে বাস্তবায়ন করেছে, যা চিকিৎসা বিশেষজ্ঞরা নোভো নরডিস্কের ক্লিনিক্যাল ট্রায়ালের তথ্য অনুসন্ধানে ব্যবহার করেন; এজেন্টটিকে হোস্টেড এজেন্ট হিসেবে Microsoft Foundry-তে সরানো হয়েছে। Command Line-এ প্রকাশিত একটি লেখায় লেখকেরা বলেছেন, এই পরিবর্তন কার্যক্রমকে সহজ করেছে, ব্যবহারকারীর সেশনগুলোর মধ্যে বিচ্ছিন্নতা জোরদার করেছে এবং এজেন্টটিকে সরাসরি Foundry-র ট্রেসিং, মূল্যায়ন ও অপটিমাইজেশন টুলের সঙ্গে যুক্ত করেছে।
এজেন্টটি কী করে
এজেন্টটি সেকেন্ডারি অ্যানালাইসিসে সহায়তা করে, অর্থাৎ ট্রায়াল প্রোটোকলের বাইরে গিয়ে করা কাজ, যেমন কোনো অনুমান যাচাই করা বা রোগীর বিভিন্ন গোষ্ঠীর তুলনা করা। দলটির মতে, এর প্রধান টুল হলো এমন কোড, যা এটি নিজে লেখে এবং নিয়ন্ত্রিত পরিবেশে চালায়, তারপর একটি সারসংক্ষেপ ও একটি চার্ট ফেরত দেয়। প্রকল্পটি একটি ফরওয়ার্ড-ডেপ্লয়েড ইঞ্জিনিয়ারিং ক্লায়েন্ট এনগেজমেন্ট থেকে গড়ে উঠেছিল। এর প্রথম প্রোডাকশন সংস্করণ চলত Azure Container Apps-এ, যেখানে কথোপকথন সংরক্ষণ করত PostgreSQL এবং কোডের জন্য স্যান্ডবক্স জোগাত Azure Container Apps dynamic sessions। ফলে স্কেলিং, সেশনের জীবনচক্র, আইসোলেশন, নেটওয়ার্কিং ও টেলিমেট্রির দায়িত্ব দলটির ওপরই ছিল।
নতুন ব্যবস্থায় লেখকেরা বলছেন, মডেল ও টুল বেছে নেওয়া এবং এজেন্ট কীভাবে তার কাজ সমন্বয় করবে তা ঠিক করা এখনও তাদের হাতেই আছে। এখন Foundry এন্ডপয়েন্ট ও এজেন্টের পরিচিতি (আইডেন্টিটি) চালায়, প্রতিটি সেশনের জন্য কম্পিউট সরবরাহ করে, স্টেট সংরক্ষণ করে এবং স্কেলিং সামলায়।
সেশনগুলোকে আলাদা রাখা
লেখকদের তুলে ধরা একটি পরিবর্তন হলো সেশন আলাদা করার পদ্ধতি। এখন প্রতিটি সেশন ভিএম পর্যায়ে বিচ্ছিন্ন একটি নিজস্ব স্যান্ডবক্সে চলে, যা Foundry চাহিদা অনুযায়ী চালু করে এবং নির্ধারিত নিষ্ক্রিয়তার সময় পার হলে সরিয়ে দেয়। দলটি বলছে, বিষয়টি গুরুত্বপূর্ণ, কারণ এজেন্টের নিজের তৈরি কোড সংবেদনশীল ক্লিনিক্যাল তথ্যের ওপর কাজ করে। Foundry Agent Service প্রাইভেট নেটওয়ার্কিংও দেয়, যা লেখকদের কথায়, অনুমোদিত সীমার মধ্যে থাকতে হবে এমন তথ্যের ইনবাউন্ড ও আউটবাউন্ড ট্র্যাফিক নিয়ন্ত্রণ করতে তাদের সাহায্য করে।
দলটি জোর দিয়ে বলছে, নিরাপত্তা বা মানের দায় প্ল্যাটফর্ম নিজের কাঁধে নেয় না। তাদের তবুও অ্যাক্সেস নিয়ন্ত্রণ ঠিক করতে হয়েছে, টেলিমেট্রি সুরক্ষিত ও সীমিত করতে হয়েছে, নিজেদের ব্যবহারক্ষেত্রের বিপরীতে এজেন্ট পরীক্ষা করতে হয়েছে এবং এজেন্ট যেসব সিস্টেমকে কল করতে পারে তার প্রতিটি যাচাই করতে হয়েছে।
নেটওয়ার্ক আগেভাগে পরিকল্পনা করুন
লেখকদের যুক্তি, প্রাইভেট নেটওয়ার্কিং নকশার পর্যায়েই চূড়ান্ত করা উচিত। সেশনগুলো আইপি অ্যাড্রেস ব্যবহার করে এবং Foundry অ্যাকাউন্টের সঙ্গে যুক্ত সাবনেট পরে বদলানো যায় না, তাই খুব ছোট একটি রেঞ্জ নিয়মিত সক্ষমতা বাড়ানোকে বৃহত্তর অবকাঠামো স্থানান্তরে পরিণত করতে পারে। তারা Foundry-র বর্তমান নির্দেশনা উদ্ধৃত করেছেন: প্রোডাকশনের জন্য /24 সাবনেট, আর ছোট ডেপ্লয়মেন্টের জন্য সমর্থিত ক্ষুদ্রতম আকার /27।
ট্রেস ও মান যাচাই
Foundry ট্রেসিং OpenTelemetry-র ওপর নির্ভর করে এবং তথ্য রাখে Azure Monitor Application Insights-এ; স্থানান্তরের সময় দলটি ট্রেস Langfuse-এও পাঠিয়েছিল। যেহেতু একটি ট্রেসে প্রম্পট, আউটপুট এবং টুলের ইনপুট ও ফলাফল রেকর্ড হতে পারে, লেখকদের মতে ক্লিনিক্যাল টেলিমেট্রিকে অন্যান্য সংবেদনশীল প্রোডাকশন তথ্যের মতোই যত্নে সামলানো উচিত, যার মধ্যে রয়েছে সংবেদনশীল অংশ আড়াল করা (রিড্যাকশন), ন্যূনতম তথ্য সংগ্রহ, সংরক্ষণের সময়সীমা ও সীমিত অ্যাক্সেস।
দলটি তাদের ব্যাকএন্ড চুক্তিগুলো অপরিবর্তিত রেখেছিল, ফলে তাদের বিদ্যমান মূল্যায়ন কাঠামো নতুন করে তৈরি এজেন্টে কোনো পরিবর্তন ছাড়াই পৌঁছাতে পেরেছিল এবং একই টেস্ট সেট ও গ্রেডার দিয়ে তার স্কোর করতে পেরেছিল, যার মধ্যে ছিল বিষয়-বিশেষজ্ঞদের দেওয়া রেফারেন্স উত্তরের সঙ্গে তুলনা। লেখকেরা বলছেন, এই স্কোরগুলো স্থানান্তরের ভিত্তিরেখা এবং রিগ্রেশনের বিরুদ্ধে যাচাই হিসেবে কাজ করেছে।
লেখাটি প্রকল্প দলের নিজস্ব বিবরণ, কোনো স্বাধীন মূল্যায়ন নয়।
