Miałem podobne problemy, jak Twoje i u mnie pomogła instalacja Kupala Captcha (produkt ukraiński, ale spolszczony :-)). Od tamtej chwili - ani jeden bot niczego mi na stronie nie zarejestrował. Polecam!
http://code.google.com/p/joomla15captcha/