Das Sortierungsproblem lässt sich lösen, in dem Du die Dateinamen nicht sofort in eine Tabelle schreibst, sondern zuerst in einen Array und diesen anschlieden sortierst!

Das zweite Problem lässt sich lösen, indem Du statt durch modulo 2 durch modulo 3 teilst und die Ausgabe noch ein wenig umbaust (zwei if($rest == 1)! 1x für das beginnende <tr> und einmal für das schließende </tr>)