Находим область определения правой части системы.
Приравниваем правую часть к 0, ищем корни - особые точки.
Для первой особой точки:
-сделать замену координат (сдвиг в центр),
-правую часть новой системы разложить по Тейлору (оставить только линейную часть),
-ищем собственные значения,
Определяем тип особой точки,
Ищем собственные вектора, если нужно, рисуем их
Ищем касательные векторы в точках пересечения с осями,
Схематично строим фазовый портрет,
Повторяем пункт (3) для остальных особых точек.
Изображаем все фазовые портреты на одной плоскости и аккуратно(!) соединяем траектории в один портрет.