題主你好，首先需要明確幾個概念。
訊號的傳輸需要物理介面（指硬體層面，介面和介面之間需要透過采用某種介質的線纜連線）、協定（可簡單理解為軟體層面，也就是格式，實際協定裏內容比較多，這裏就不展開說明了）和載體（音響系統裏一般是透過電或者光），還要確定是模擬訊號還是數位訊號。
那麽題主你提到的光纖一般會理解成上述的物理介面概念，也就是裝置上插口是光纖口（民用裝置領域該物理介面的專業說法是TOSLINK，專業裝置領域還使用一種物理介面叫MADI），實際上還包括了傳輸用的線纜是光纖，載體自然也是光了，傳輸的肯定是光訊號了。同理，同軸也一般理解成物理介面的概念（專業說法是Coaxial），實際上還包括了傳輸用的線纜是電纜，載體自然是電了，傳輸的肯定是電訊號了。
那問題就來了，一個物理介面怎麽能和另外一個物理介面比較好壞呢？一個塑膠頭，一個金屬頭，拿來比較音質？
所以，其實很多人把介面、協定和載體的概念搞混在一起了。先說說題主提到的概念裏用到哪些介面、協定和載體。
物理介面：TOSLINK，BNC，RCA 協定：S/PDIF，ADAT 載體：電，光
題主你說的光纖，其實想表達的是透過TOSLINK光纖頭使用ADAT協定傳輸光訊號這種方式（也可以簡單說成adat訊號--俗稱）。但是你只說光纖的話，其實是不準確的，因為TOSLINK光纖口既可以使用ADAT協定，又可以使用S/PDIF協定。
而題主你說的同軸，其實想表達的是透過RCA蓮花頭使用S/PDIF協定傳輸電訊號這種方式（也可以簡單說成s/pdif訊號或數位同軸訊號--俗稱）。但是你只說同軸的話，其實也是不準確的，因為同軸口既可以傳數位訊號，也可以傳模擬訊號。而S/PDIF協定既可以使用RCA頭，也可以使用BNC頭（一般用在廣電專業領域，常用來傳輸的協定是大名鼎鼎的AES，沒錯和音訊工程師協會字母縮寫一樣，準確來說傳輸的是AES3協定），還可以使用TOSLINK頭（沒錯可以透過光來傳輸所謂的「數位同軸訊號」）。
所以，題主你把光纖和同軸放一起比較，按照介面、協定和載體，要分兩種情況。
1.光纖口「走的是S/PDIF訊號」（協定），同軸口「走的也是S/PDIF訊號」（協定）。
那麽訊號本質上沒區別（編碼方式），無非使用光纖多了一個電光轉換（輸出）和光電轉換（輸入），在轉換過程中可能會造成一定的誤碼，但是這個誤碼率應該很低很低，題主你是肯定聽不出來區別。
2.光纖口「走的是ADAT訊號」（協定），同軸口「走的也是S/PDIF訊號」（協定）。（十有八九你想問得就是這個）
先簡單補充兩句，S/PDIF協定其實就是專業領域使用的AES3協定（也有的裝置標註AES/EBU）的民用版（主要是在接外掛程式、線纜阻抗和邏輯電平上有區別），還有從平衡傳輸改為非平衡傳輸（降低成本，幾米內傳輸兩者沒什麽差距），所以本身的傳輸可靠性是有保證的。而ADAT主要是為了多聲道音訊訊號的傳輸和儲存而開發的，傳輸可靠性上未必就比S/PDIF更好。兩者都是對PCM編碼後的訊號進行再次編碼用於傳輸（還有同步），S/PDIF協定使用的二次編碼方式是雙相符號編碼（Biphase-Mark Coding），ADAT協定使用的二次編碼方式我沒有查到，不過不會有什麽質的差距，最終無非是誤碼率有一點差異性，但是這個差距題主你依然聽不出來。
啰嗦了大半天，就是告訴題主，這兩者之間傳輸訊號的差異導致的音訊品質之間的差異性可以說是非常非常非常小（好吧，我也拿不出什麽精確的數據，題主就當我是在抖機靈好了）。相比較而言，ADC芯片（簡單理解為編碼好了）和DAC芯片（簡單理解為解碼好了），晶振和電路總體設計，以及最後級使用的耳機或音箱，甚至你的聽音環境等對音質的影響大得多。所以，題主完全不用擔心「用同軸」好，還是「用光纖好」。
題主，你的第2個和第3個問題合並一下。首先USB也是物理介面（因為是為電腦專門開發的，所以有自己專門的協定，無法使用S/PDIF這種單純的傳輸音訊訊號的協定），完成解碼的依然是你的DAC內的芯片，而不是USB。USB也是很成熟的技術，現在已經到USB3.1版本了，就傳輸音訊訊號的可靠性來說，是沒有任何問題的，現在很多專業音效卡（萬元以上）都是用USB介面（以前使用火線介面更穩定）與電腦連線的。你說擔心usb音質不好，是大可不必的，影響dac解碼後音質的是芯片、晶振和電路設計，跟音效卡無任何關系（解碼時，你的外接DAC相當於頂替了板載音效卡的輸出功能），所以為了保證音質，最好不要買便宜的雜牌的解碼器（大廠的裝置更有保證）。你說額外買個音效卡，然後音效卡接電腦，音效卡的同軸輸出給dac來解碼也是大可不必的，因為這樣連線只是把usb傳輸的數位序列訊號先解一次通道編碼，然後再一次通道編碼轉成S/PDIF格式，這是多此一舉。音效卡本身就有DAC功能，可以輸出模擬訊號，相當於一個功能多一些的DAC。所以，題主你要麽花錢買個好點的hi-fi音效卡當DAC用（比如創新的X7，當然也可以買專業音效卡，不過使用起來就復雜了），要麽就直接買個好點的DAC，不要把錢分開用。
題主，最後一個問題其實挺難說個標準答案。因為線材本身的物理特性對訊號傳輸肯定是有影響的，比如導體直徑、直流電阻、扭矩等，但是一般只有在遠距離傳輸的時候，才會有明顯的差異，家裏用一般都在1公尺以內，可以說普通的線材就夠用了。當然好一些的線材遮蔽做的比較好，對訊號的傳輸是有幫助的，不過也不建議去買天價線，帶來的提升（其實不是提升，是減少衰減）和價格不成正比。不過因為很多朋友買了高檔音響（好幾萬，甚至好幾十萬），總覺得用那幾塊錢一根的低端線材，影響音質（失真逼格），於是就去買高端線，插上去就覺得音質好很多（其實是腦放在工作），也是可以理解的。總得來說，沒必要線上材上花費過多的錢，大廠生產的成品線其實比很多手工作坊制作的手工線的品質好很多（機器焊的就是比人焊的好）。如果題主需要購買好一些的線材和接外掛程式的話，可以看看佳耐美的線和紐崔克的接頭，有口皆碑，在專業領域基本用的都是這兩個牌子（發燒領域就不說了，牌子太多，沒法說哪個牌子特別好）。
打字不易，希望能幫到題主。
