Würde die Grafikkarte nicht fest sitzen, so würde der PC garnicht starten. Auch mit dem Monitorkabel ist es zwar nett gemeint, jedoch würde auch da nur kein Bild kommen. Der Rechner startet auch ohne angestecktem Monitor.
Zuerst würde ich mal eine neue CMOS-Batterie eimbauen (meistens eine Lithium-Batterie vom Typ CR2032). Sollte das nicht helfen, geht man weiter auf die Fehlersuche, in dem man das Netzteil tauscht und sich später Komponente für Komponente durcharbeitet.
Wenn der PC schon älter ist, sollte man ausserdem alle Kühlkörper unter die Lupe nehmen und bei Bedarf von Staub reinigen (Pinsel, Druckluftspray). Man sollte ausserdem nach ca. 2 Jahren Betriebszeit auch daran denken, evtl. die Wärmeleitpaste auf dem Prozessor zu erneuern.