論理の問題として非常に複雑な問題なのですよね。体系の違う科学として魔法が描かれる例は日本のファンタジーおよびアニメなどでもよく出てきますし(月姫など)｡物語上の現象や事象，その論理の仕組みのことを「フィクションライン」というそうですが(ホラー映画の文脈らしい)，魔法という「ありえないこと」というイメージを，フィクションラインに対してどこに位置づけるか，という問題はつきものになりそうです。

一応，方法としては，「作中の人物がそれをどうとらえるか」から出発すればいいんじゃないのかな，という感じがしますが…(魔法世界でも魔術書など書籍が書かれる描写があれば，その地点で魔法は一種の科学，魔科学があるという設定になってしまうはずです)。