Linux mint 18.3, преобразование ext4 в btrfs

Я полагаю, вы должны начать с текущего документация btrfs. Хорошей новостью является то, что конвертация из ext4 действительно поддерживается, но учебник, который вы связали, действительно пропустил некоторые шаги, перечисленные на связанной справочной странице wiki. Вы также должны быть в состоянии следовать инструкциям на Arch wiki для этого.

сообщение об ошибке должно быть доброкачественным, в том смысле, что он должен показать ошибку, но позволит вам загрузиться . См., например,здесь (Мята, 2011) и здесь (manjaro, 2016).