diff --git a/serve/mlc_serve/utils.py b/serve/mlc_serve/utils.py index 6a982fe0a4..ed3be6a451 100644 --- a/serve/mlc_serve/utils.py +++ b/serve/mlc_serve/utils.py @@ -25,7 +25,6 @@ def get_default_mlc_serve_argparser(description="", allow_override=False): parser.add_argument("--use-sync-engine", action="store_true") parser.add_argument("--num-sequences-to-sample", type=int, default=1) parser.add_argument("--max-num-batched-tokens", type=int, default=4096) - parser.add_argument("--num-sequences-to-sample", type=int, default=1) parser.add_argument("--min-decode-steps", type=int, default=32) parser.add_argument("--max-decode-steps", type=int, default=56) parser.add_argument("--debug-logging", action="store_true")