Why don't you do your best?

は"why"が「なぜ」という疑問詞、"don't"が一般動詞の否定文を表す「~しない」だから、直訳するとこの文は

「なぜ~しないのですか」

という否定疑問になります。

しかし実際の会話の場面では

「~してはどうですか」

という形で「理由を尋ねる質問」ではなく「勧誘」「提案」の機能を果たすことが多いです。

私「具体例を挙げてみましょう。あなたの親御さんがあなたに対して「なんで勉強やらないの？」と述べたとします。あなたがこれを文字通りに＜理由を尋ねる質問＞と捉え、「ぶっちゃけめんどくさいしやりたくないからです」などと答えた場合、どうなりますか」

生徒「ぶっ飛ばされます」

私「その通り。それでは「なんで勉強やらないの？」の真の意味内容（言語行為）は何ですか」

生徒「ちゃんと勉強しろ！」

私「その通り。質問ではなく「指示」あるいは「命令」と捉えるべきでしょう」

私「いいですか。この場合、表面上は理由を尋ねつつも、相手は実のところあなたがやらない理由には全く興味がないのです。火に油を注ぐことにならぬようくれぐれも気をつけてください」