احتمال 95 درصد جداول پایگاه داده شما utf8 نیست و پایگاه داده شما با انکودینگ دیگه ای ساخته شده
پایگاه داده و جداول و ستونهای جداول رو هر جایی لازم است به utf8 تبدیل کنید مشکل حل می شه
اگر هم تازه اقدام به نصب کرده اید و هنوز هیچ کاری روی جوملا انجام نداده اید دوباره پایگاه داده باسازید (utf8) و دوباره جوملا نصب کنید و البته توصیه می کنم جوملا 1.7 نصب کنید