• اگر سمپادی هستی همین الان عضو شو :

    ثبت نام عضویت

AI Hello

تیمم که سه نفرس. ولی برای اموزش دادن مدل تصویر از سرور های اسپانسرمون استفاده می‌کنیم. احتمالا هم برای اموزش‌دادن مدل تولید متن هم از سرور همون شرکت استفاده کنیم.

این هوش مصنوعی‌ زمینه‌ی خاصی نداره و کاربری‌ش عمومیه. توی همه‌ی زمینه ها اطلاعات خوبی کسب کنه و کامل یادبگیره یه چیزی در می‌اد مثل چت جی‌پی‌تی که همه استفاده می‌کنن ازش.
پس رو یادگیریش کار میکنین ، پارامترای اولیش رو از کدوم مدل برمیدارین ؟
 
پس رو یادگیریش کار میکنین ، پارامترای اولیش رو از کدوم مدل برمیدارین ؟
اره فعلا تمرکزمون رو یادگیریه.
پارامترای اولیه رو از مدلی نگرفتیم. از صفر کلشو ساختیم
 
یک دمت گرم
دو چون توی ح ب گفتم ریپلای ندم اینجا بهتره بگم که دموش فعال نیس میشه فعال کنی؟
 
  • دابل‌لایک
امتیازات: Mojo
یک دمت گرم
دو چون توی ح ب گفتم ریپلای ندم اینجا بهتره بگم که دموش فعال نیس میشه فعال کنی؟
خیلی متشکر
فعلا هیچ شرکتی حاضر نیست سرور برای مدل تولید متن قرار بده که پابلیکش کنم.
ولی خودم یدونه Home Server می‌سازم بعد اینکه اینترنتا اوکی شد، تا بقیه هم تست و استفاده کنن ازش.
 
خیلی متشکر
فعلا هیچ شرکتی حاضر نیست سرور برای مدل تولید متن قرار بده که پابلیکش کنم.
ولی خودم یدونه Home Server می‌سازم بعد اینکه اینترنتا اوکی شد، تا بقیه هم تست و استفاده کنن ازش.
ببین من خودم از این چیزا سر در نمیارم اما میتونی بگی در پ.خ که دقیییقا (با جزئیاتِ فنی) چی نیاز داری که من اگه دیدم شد براتون تامین کنیم؟
 
  • دابل‌لایک
امتیازات: Mojo
ببین من خودم از این چیزا سر در نمیارم اما میتونی بگی در پ.خ که دقیییقا (با جزئیاتِ فنی) چی نیاز داری که من اگه دیدم شد براتون تامین کنیم؟
خیلی متشکرم
چشم براتون توی پ.خ تا امشب می‌فرستم.
بازم خیلی متشکرم.
 
قابل توجه استاتید آدم ها و دکترینی که می‌گن هوش مصنوعی سلام فیکه اینجا اعلام کنن تا براشون بفرستم تستش کنن رو سخت افزار خودشون
 
به نظرم اگر Colab Pro بخری خیلی به نفعت میشه. ماهی 600 هزار تومن، گرون ترین جا 1 میلیون، A 100 میده عشق می کنی، دقیق یادم نمیاد تعداد یونیتش چقدر بود ولی باهاش لاما رو فاین تیون کردیم
 
  • لایک
امتیازات: Mojo
به نظرم اگر Colab Pro بخری خیلی به نفعت میشه. ماهی 600 هزار تومن، گرون ترین جا 1 میلیون، A 100 میده عشق می کنی، دقیق یادم نمیاد تعداد یونیتش چقدر بود ولی باهاش لاما رو فاین تیون کردیم
چند پارامتری؟
 
یه ایمیل جدید ساختیم برامون شارژ کردن، سایتش رو یادم نمیاد ولی فکر کنم اگر سرچ کنی خرید اشتراک کولب میاد
 
  • لایک
امتیازات: Mojo
راستی، زمانش 3 ماهه و pay as you go هست و یه سری یونیت داره، تا مصرف نکنی چیزی از دست نمی دی و خیلی زمان مطرح نیست، بدون صرفه جویی دو ماه با T4 و L4 دو نفری با دوستم استفاده کردیم، کارت گرافیک بهتر یونیت بیشتری مصرف میکنه
 
  • لایک
امتیازات: Mojo
راستی، زمانش 3 ماهه و pay as you go هست و یه سری یونیت داره، تا مصرف نکنی چیزی از دست نمی دی و خیلی زمان مطرح نیست، بدون صرفه جویی دو ماه با T4 و L4 دو نفری با دوستم استفاده کردیم، کارت گرافیک بهتر یونیت بیشتری مصرف میکنه
خیلی خوبه
فقط یکذره مال من طول میکشه چون تقریبا ۱۱ ترابایت دیتا دارم و اگه بخوام اموزشش بدم روی حتی ۱۰ تا a100 حدود ۴ ماهی طول میکشه.
من مدلمو فاین تیون نمیکنم از صفر ساختم ( از شبکه عصبی و‌nlp و tg شد )
اینجوری نمیصرفه باید یکسری شرکت همکاری کنن
روی کارت گرافیک سابق م تونستم درحد ۵۰ میلیون پارامتر تر و تمیز اموزش بدم بدون مشکلی ولی بیشتر سخت میشع
 
خیلی خوبه
فقط یکذره مال من طول میکشه چون تقریبا ۱۱ ترابایت دیتا دارم و اگه بخوام اموزشش بدم روی حتی ۱۰ تا a100 حدود ۴ ماهی طول میکشه.
من مدلمو فاین تیون نمیکنم از صفر ساختم ( از شبکه عصبی و‌nlp و tg شد )
اینجوری نمیصرفه باید یکسری شرکت همکاری کنن
روی کارت گرافیک سابق م تونستم درحد ۵۰ میلیون پارامتر تر و تمیز اموزش بدم بدون مشکلی ولی بیشتر سخت میشع
خب دیتا رو کمتر کنی بهتر نیست؟ GPT-3 نیم ترابایت استفاده کرده. البته دیتای اولیشون 4.5 گیگ بوده و فیلتر کردن، چطوریش رو نمی دونم
بعد اینکه transformer استفاده می کنی دیگه درسته؟ چوت شبکه عصبی برای nlp نشنیدم بیشتر برای کلاسیفیکیشن و...
tg هم ببخشید نمیدونم مخفف چیه
 
  • لایک
امتیازات: Mojo
خب دیتا رو کمتر کنی بهتر نیست؟ GPT-3 نیم ترابایت استفاده کرده
بعد اینکه transformer استفاده می کنی دیگه درسته؟ چوت شبکه عصبی برای nlp نشنیدم بیشتر برای کلاسیفیکیشن و...
tg هم ببخشید نمیدونم مخفف چیه
تکست جنریشنه tg

مدلم اول شبکه عصبی بود بعد از ترنسفرمرز استفاده کردم.

واسه دیتاها چونکه مدلم هیچی هیچی نمیدونه و برای اینکه حرف بزنه متن درک کنه خیلی دیتا لازمه.
gpt 3 از gpt2 استفاده کرد و سخت نبود فقط یه فاین تیون پیشرفته بود.
ولی این سخت تره چون مدل بیسی نداره
 
تکست جنریشنه tg

مدلم اول شبکه عصبی بود بعد از ترنسفرمرز استفاده کردم.

واسه دیتاها چونکه مدلم هیچی هیچی نمیدونه و برای اینکه حرف بزنه متن درک کنه خیلی دیتا لازمه.
gpt 3 از gpt2 استفاده کرد و سخت نبود فقط یه فاین تیون پیشرفته بود.
ولی این سخت تره چون مدل بیسی نداره
اینم حرفیه، ولی خب اون مدل بیس هم رو 40GB ترین شده، من دقیقا از جزئیاتش باخبر نیستم اطلاعات تو بیشتره، ولی مثلا تو هم فکر کنم یه مدل بیس داری الان، درست نمی گم؟ راستی، حدس می زنم unsupervised ترین می کنی بعد فاین تیون می کنی درسته؟ (یا نه؟) اوه، یه نکته. مدلت فارسیه؟
 
  • لایک
امتیازات: Mojo
Back
بالا