Выборка в mySQL по нескольким параметрам

select *
  from (
    select id, author_id, rubric_id, published
      from table
     order by author_id=XXX desc, rubric_id=YYY desc
     limit 10
   ) X
  order by published

Таков синтаксис для MySQL, так как в нем условие author_id=XXX возвращает 0 в случае если автор не равен XXX и 1 если равен. Таким образом при обратной сортировке в начале получаем всех авторов XXX, после них идут остальные авторы. Для совпавших значений первой колонки идет сортировка по второй, а следовательно для не совпавших авторов первыми получаем нужную рубрику.

P.S. для других СУБД сравнение может не давать числовые 0 и 1 и там потребуется писать более сложные конструкции вроде order by case author_id when XXX then 1 else 0 end desc, ...

select * from (
select * from table where author_id=XXX
union 
select * from table where rubric_id=YYY
union
select * from table where author_id <> XXX and rubric_id <> YYY) 
order by published 
limit 10