到当地(无论是欧洲还是中国，或者任何其他国家)的日本大使馆，咨询，办理就可以了。具体手续材料，可以上大使馆的网站查询。
那要看你和你丈夫想要拿哪个国家的绿卡了。办理日本的话你们现在正常手续是办理不了的因为日本政府方面规定要结婚5年以后才能办理成为日本的公民
办理婚姻登记认证和公正
上百度找找。
