Вряд ли установка Linux на PS3 чем-то поможет, потому что Sony закрыла при этом прямой доступ к видеопамяти.
Фактически Linux на PS3 более всего реально нужен для тех кто хочет попробовать писать программы для Cell-процессора, для них PS3 была самым дешевым вариантом с этим процессором. Известны случаи, когда PS3 использовалась для разных очень высокопроизводительных вычислений.
В последних модификациях Sony прикрыла лавочку и уже ничего лишнего не ставится без покупки Developers Kit (цена вроде минимум $10 000)
Тут ещё засада в том, что без весьма специфичного параллельного программирования Cell-процессора, вычислительная часть приставки представляет собой де-факто процессор Power с довольно скромными возможностями, где-то на уровне аналогичном Athlon или P-III с частотой 1000 Мгц. Может несколько быстрее. И всего 256 Мб памяти.
Хотя dvd проигрывать, наверное, должно хватить. Попробуйте поставить mplayer или VLC, только полные версии, без выкинутых libdvdcss.
Вообще, я бы на PS3 попробовал поставить не YDL, а обычный Debian (для Power архитектуры) , благо к нему полно готового софта, а в репозитории debian-multimedia, в том числе и всякого, который в США не вписывается в рамки законов и патентов. То есть, для нормального проигрывания dvd и т.п.
Хотя можно поискать готовый mplayer и для YDL или попробовать его самому собрать из исходников. Но если этим раньше не занимались, оно может оказаться непросто.