Wenn du auf dem Mini über ein Browserfenster auf Plex zugreifst, benutzt du Plex/web. Das kann dann ein beliebiger Browser sein.
Plex/web wird mit PMS automatisch mit installiert. Wenn du Plex/web benutzt, kannst du z.B. neue Libraries anlegen und hast Zugriff auf die Plex Media Server Einstellungen.
Eigentlich ist dieses Programm hauptsächlich für die Verwaltung der Datenbank gedacht, bietet aber auch die Funktionen eines Players, nutzt dabei aber den Player im Browser.
Es kann auch sein, dass du noch den alten Player installiert hast: Plex Media Center
Plex hat diesen Player allerdings schon letztes Jahr aufgegeben und entwickelt ihn auch nicht mehr weiter.
Den aktuellen PHT kannst du auf der Hompage von Plex herunterladen: https://plex.tv/downloads
Ob deine Syno + Mini + Plex transcodieren muss, hängt letztendlich vom verwendeten Client und deinen Einstellungen ab (z.B. local Quality).
Ich versuche das kurz zu erklären.
Wenn du Plex + Plex/web benutzt, richtet sich PMS nach dem was der Player im Browser kann.
Der Player könnte dann zum Beispiel auch Flash sein. Wenn dein Video im falschen Format ist, muss PMS dein Video erst umschreiben.
Flash supported codecs siehe hier: http://helpx.adobe.com/flash/kb/supported-codecs-flash-player.html
Als Transkoder benutz PMS das Programm FFmpeg. FFmpeg ist ein nahezu universeller Konverter und bringt von Haus sehr viele Codecs mit.
Wenn Plex + PHT verwendet wird, benutzt PHT den eingebetteten DVDPlayer.
Dieser Player basiert auf dieselben Codecs wie FFmpeg. Alles was FFmpeg versteht, versteht daher auch PHT. Traskodieren ist in der Regel überflüssig.
Plex + Apple TV
Soweit ich weiß, lässt Apple keine Apps auf der Apple TV zu. Daher bist du an die von Apple zugelassenen Formate gebunden.
AVI geht da wahrscheinlich nicht, selbst wenn mp3 und h264 drin ist. Versuche mal, ob Plex + ATV eine MP4 direkt abspielen kann.