Сами отдельно взятые иероглифы отличить довольно трудно, а порой и практически невозможно. все потому, что японское иероглифическое письмо (кандзи) практически полностью заимствовано из китайского языка. Отличить их можно в том случае, когда перед вами целый текст (или хотя бы предложение), так как при этом используется другие компоненты японского письма - слоговые азбуки (катакана и хирагана). Значки этих азбук более простые, чем китайские иероглифы или японские кандзи. Составляя предложения японцы используют слоговые азбуки в качестве связок, предлогов, а также текст может быть написан полностью на хирагане, например.
На этой картинке все изображено более наглядно: