سلام
سال نو رو به همه تبریک میگم
بالاخره مشکل من حل شد
این خط رو از htaccess. روت سایت حذف کردم
کد:
RedirectMatch temp ^/$ [مهمان/کاربر گرامی برای دیدن لینک ها ابتدا باید عضو سایت شوید و لاگین کنید برای ثبت نام اینجا کلیک کنید]
و به جای اون این کد رو نوشتم

کد:
RewriteEngine on

RewriteCond %{HTTP_HOST} !^www\.domain\.com$ [NC]
RewriteRule ^(.*) http://www.domain.com/$1 [QSA,L,R=301]


RewriteCond %{HTTP_HOST} ^domain.com$ [OR]
RewriteCond %{HTTP_HOST} ^www.domain.com$
RewriteRule ^/?$ [مهمان/کاربر گرامی برای دیدن لینک ها ابتدا باید عضو سایت شوید و لاگین کنید برای ثبت نام اینجا کلیک کنید] [R=301,L]
و این کد رو در فایل htaccess. در پوشه Forum نوشتم

کد:
RewriteEngine On
RewriteBase /
RewriteCond %{HTTP_HOST} !^forum\.domain\.com$ [NC]
RewriteRule ^/?(home/domain/public_html/forum/?)?(.*) http://forum.domain.com/$2 [QSA,L,R=301]
بعد از انجام این کارا در فایل setting انجمن آدرس domain.com/forum رو به forum.domain.com تغییر دادم .
نتیجه این شده که اگر کسی اسم سایت رو با www یا بدون اون بزنه میره به این [مهمان/کاربر گرامی برای دیدن لینک ها ابتدا باید عضو سایت شوید و لاگین کنید برای ثبت نام اینجا کلیک کنید] آدرس، و در صورتیکه آدرسهای forum.domain.com یا [مهمان/کاربر گرامی برای دیدن لینک ها ابتدا باید عضو سایت شوید و لاگین کنید برای ثبت نام اینجا کلیک کنید] یا domain.com/forum رو بزنه میره به آدرس forum.domain.com

آقای فیروزمندان از راهنمایی های شما متشکرم