Инструкции:

1. Использование ненагруженных скриптами (легких) шаблонов. Либо облегчайте шаблон, удаляя ненужные java скрипты и оптимизируя графику.
2. Использование оптимизированной графики, хранящейся на Вашем хостинге (не вставляйте картинки с чужих сайтов)
3. Использование стандартного SEF
4. Включение встроенного кеша. Адмицентр Joomla: меню Сайт- Общие настройки- вкладка Система- справа Установки кеша- Включить кеширование поставить "Да". Также возможно использование вместо стандартного кеша и хранилища сессий PHP акселераторов (например EAccelerator или Memcached- должны быть установлены на сервере), протестируйте скорость загрузки и выберите что лучше.
5. Модули необходимо кешировать (смотри настройки модуля).
6. Отключение ненужных плагинов. Адмицентр Joomla: меню Расширения- Менеджер плагинов

Содержимое - Рейтинг
Содержимое - Подсветка кода (GeSHi)
Содержимое - Загрузка модуля в Материал
Оставляем опубликованным один редактор, которым пользуемся

Плагины поиска- по сути нужен только поиск по контенту. Если для статей используется zoo или k2 надо выключить также Поиск - Содержимое. Затем установить и опубликовать поисковый плагин компонента.
Поиск - Веб-ссылки
Поиск - Контакты
Поиск - Категории
Поиск - Разделы
Поиск - Ленты новостей
Система - Отладка
Система - Запомнить меня

Рекомендации:
 

1. Система - Поддержка старых расширений (Legacy) должен быть отключен всегда.
2. Крайне внимательно относитесь к каждому устанавливаемому плагину. Сравнивайте скорость загрузки страницы после его установки и до. Сравнивайте таким образом несколько плагинов и выбирайте лучший.
3. Не оставляйте в базе данных таблиц от удаленных расширений. Время от времени оптимизируйте базу данных через phpmyadmin (перед этим делайте резервную копию таблиц).
4. Крайне осторожно относитесь к html кодам информеров и счетчиков. Выкачивайте их java скрипты и загружайте на свой хостинг, делайте обращения к ним. Вставляйте их в mod_html, а не в mod_php. В настройках разрешайте кеширование. Для анализа посещений лучше всего подходит Google Analitics и Яндекс Метрика. Счетчики типа liveinternet и mail.ru могут серьезно затормозить загрузку сайта.
5. Используйте для поиска по сайту Google и Яндекс. Результаты поиска встраиваются в страницу. При их использовании существенно снижается нагрузка на базу данных. Плагин поиска по контенту можно отключить.
6. Не храните изображения, использующиеся на сайте в ненадежных местах. Надежнее хранить у себя на хостинге, оптимальнее для нагрузки на сервер- на устойчивых к нагрузкам площадках (habreffect.ru, pict.com).

Запомните, наилучшим средством ускорения сайта является переезд на нормальный качественный хостинг в России. Но даже после переезда на выделенный сервер не надо забывать о правилах клиентской оптимизации.

Скорость загрузки сайта можно померять с помощью отладки (надо включить в Общих настройках и опубликовать плагин, затем зайти на сайт), а также браузерных утилит (Firebug для Firefox, Developer tools для chrome, opera, safari, ie). Также можно использовать интернет сервисы, например site-perf.com. Для проверки возможностей сервера выдерживать нагрузку используйте сервис loadimpact.com.

Также хотел бы заметить, что данные мероприятия надо осуществлять на последних этапах создания сайта. Иначе придется постоянно чистить кеш.