]> git.madduck.net Git - etc/vim.git/blob - src/black/lines.py

madduck's git repository

Every one of the projects in this repository is available at the canonical URL git://git.madduck.net/madduck/pub/<projectpath> — see each project's metadata for the exact URL.

All patches and comments are welcome. Please squash your changes to logical commits before using git-format-patch and git-send-email to patches@git.madduck.net. If you'd read over the Git project's submission guidelines and adhered to them, I'd be especially grateful.

SSH access, as well as push access can be individually arranged.

If you use my repositories frequently, consider adding the following snippet to ~/.gitconfig and using the third clone URL listed for each project:

[url "git://git.madduck.net/madduck/"]
  insteadOf = madduck:

14754d7532ff4827d2773ae023953a15f8722a07
[etc/vim.git] / src / black / lines.py
1 import itertools
2 import math
3 import sys
4 from dataclasses import dataclass, field
5 from typing import (
6     Callable,
7     Dict,
8     Iterator,
9     List,
10     Optional,
11     Sequence,
12     Tuple,
13     TypeVar,
14     Union,
15     cast,
16 )
17
18 from black.brackets import COMMA_PRIORITY, DOT_PRIORITY, BracketTracker
19 from black.mode import Mode, Preview
20 from black.nodes import (
21     BRACKETS,
22     CLOSING_BRACKETS,
23     OPENING_BRACKETS,
24     STANDALONE_COMMENT,
25     TEST_DESCENDANTS,
26     child_towards,
27     is_import,
28     is_multiline_string,
29     is_one_sequence_between,
30     is_type_comment,
31     is_type_ignore_comment,
32     is_with_or_async_with_stmt,
33     replace_child,
34     syms,
35     whitespace,
36 )
37 from black.strings import str_width
38 from blib2to3.pgen2 import token
39 from blib2to3.pytree import Leaf, Node
40
41 # types
42 T = TypeVar("T")
43 Index = int
44 LeafID = int
45 LN = Union[Leaf, Node]
46
47
48 @dataclass
49 class Line:
50     """Holds leaves and comments. Can be printed with `str(line)`."""
51
52     mode: Mode = field(repr=False)
53     depth: int = 0
54     leaves: List[Leaf] = field(default_factory=list)
55     # keys ordered like `leaves`
56     comments: Dict[LeafID, List[Leaf]] = field(default_factory=dict)
57     bracket_tracker: BracketTracker = field(default_factory=BracketTracker)
58     inside_brackets: bool = False
59     should_split_rhs: bool = False
60     magic_trailing_comma: Optional[Leaf] = None
61
62     def append(
63         self, leaf: Leaf, preformatted: bool = False, track_bracket: bool = False
64     ) -> None:
65         """Add a new `leaf` to the end of the line.
66
67         Unless `preformatted` is True, the `leaf` will receive a new consistent
68         whitespace prefix and metadata applied by :class:`BracketTracker`.
69         Trailing commas are maybe removed, unpacked for loop variables are
70         demoted from being delimiters.
71
72         Inline comments are put aside.
73         """
74         has_value = leaf.type in BRACKETS or bool(leaf.value.strip())
75         if not has_value:
76             return
77
78         if token.COLON == leaf.type and self.is_class_paren_empty:
79             del self.leaves[-2:]
80         if self.leaves and not preformatted:
81             # Note: at this point leaf.prefix should be empty except for
82             # imports, for which we only preserve newlines.
83             leaf.prefix += whitespace(
84                 leaf,
85                 complex_subscript=self.is_complex_subscript(leaf),
86                 mode=self.mode,
87             )
88         if self.inside_brackets or not preformatted or track_bracket:
89             self.bracket_tracker.mark(leaf)
90             if self.mode.magic_trailing_comma:
91                 if self.has_magic_trailing_comma(leaf):
92                     self.magic_trailing_comma = leaf
93             elif self.has_magic_trailing_comma(leaf, ensure_removable=True):
94                 self.remove_trailing_comma()
95         if not self.append_comment(leaf):
96             self.leaves.append(leaf)
97
98     def append_safe(self, leaf: Leaf, preformatted: bool = False) -> None:
99         """Like :func:`append()` but disallow invalid standalone comment structure.
100
101         Raises ValueError when any `leaf` is appended after a standalone comment
102         or when a standalone comment is not the first leaf on the line.
103         """
104         if self.bracket_tracker.depth == 0:
105             if self.is_comment:
106                 raise ValueError("cannot append to standalone comments")
107
108             if self.leaves and leaf.type == STANDALONE_COMMENT:
109                 raise ValueError(
110                     "cannot append standalone comments to a populated line"
111                 )
112
113         self.append(leaf, preformatted=preformatted)
114
115     @property
116     def is_comment(self) -> bool:
117         """Is this line a standalone comment?"""
118         return len(self.leaves) == 1 and self.leaves[0].type == STANDALONE_COMMENT
119
120     @property
121     def is_decorator(self) -> bool:
122         """Is this line a decorator?"""
123         return bool(self) and self.leaves[0].type == token.AT
124
125     @property
126     def is_import(self) -> bool:
127         """Is this an import line?"""
128         return bool(self) and is_import(self.leaves[0])
129
130     @property
131     def is_with_or_async_with_stmt(self) -> bool:
132         """Is this a with_stmt line?"""
133         return bool(self) and is_with_or_async_with_stmt(self.leaves[0])
134
135     @property
136     def is_class(self) -> bool:
137         """Is this line a class definition?"""
138         return (
139             bool(self)
140             and self.leaves[0].type == token.NAME
141             and self.leaves[0].value == "class"
142         )
143
144     @property
145     def is_stub_class(self) -> bool:
146         """Is this line a class definition with a body consisting only of "..."?"""
147         return self.is_class and self.leaves[-3:] == [
148             Leaf(token.DOT, ".") for _ in range(3)
149         ]
150
151     @property
152     def is_def(self) -> bool:
153         """Is this a function definition? (Also returns True for async defs.)"""
154         try:
155             first_leaf = self.leaves[0]
156         except IndexError:
157             return False
158
159         try:
160             second_leaf: Optional[Leaf] = self.leaves[1]
161         except IndexError:
162             second_leaf = None
163         return (first_leaf.type == token.NAME and first_leaf.value == "def") or (
164             first_leaf.type == token.ASYNC
165             and second_leaf is not None
166             and second_leaf.type == token.NAME
167             and second_leaf.value == "def"
168         )
169
170     @property
171     def is_stub_def(self) -> bool:
172         """Is this line a function definition with a body consisting only of "..."?"""
173         return self.is_def and self.leaves[-4:] == [Leaf(token.COLON, ":")] + [
174             Leaf(token.DOT, ".") for _ in range(3)
175         ]
176
177     @property
178     def is_class_paren_empty(self) -> bool:
179         """Is this a class with no base classes but using parentheses?
180
181         Those are unnecessary and should be removed.
182         """
183         return (
184             bool(self)
185             and len(self.leaves) == 4
186             and self.is_class
187             and self.leaves[2].type == token.LPAR
188             and self.leaves[2].value == "("
189             and self.leaves[3].type == token.RPAR
190             and self.leaves[3].value == ")"
191         )
192
193     @property
194     def is_triple_quoted_string(self) -> bool:
195         """Is the line a triple quoted string?"""
196         return (
197             bool(self)
198             and self.leaves[0].type == token.STRING
199             and self.leaves[0].value.startswith(('"""', "'''"))
200         )
201
202     @property
203     def opens_block(self) -> bool:
204         """Does this line open a new level of indentation."""
205         if len(self.leaves) == 0:
206             return False
207         return self.leaves[-1].type == token.COLON
208
209     def is_fmt_pass_converted(
210         self, *, first_leaf_matches: Optional[Callable[[Leaf], bool]] = None
211     ) -> bool:
212         """Is this line converted from fmt off/skip code?
213
214         If first_leaf_matches is not None, it only returns True if the first
215         leaf of converted code matches.
216         """
217         if len(self.leaves) != 1:
218             return False
219         leaf = self.leaves[0]
220         if (
221             leaf.type != STANDALONE_COMMENT
222             or leaf.fmt_pass_converted_first_leaf is None
223         ):
224             return False
225         return first_leaf_matches is None or first_leaf_matches(
226             leaf.fmt_pass_converted_first_leaf
227         )
228
229     def contains_standalone_comments(self, depth_limit: int = sys.maxsize) -> bool:
230         """If so, needs to be split before emitting."""
231         for leaf in self.leaves:
232             if leaf.type == STANDALONE_COMMENT and leaf.bracket_depth <= depth_limit:
233                 return True
234
235         return False
236
237     def contains_uncollapsable_type_comments(self) -> bool:
238         ignored_ids = set()
239         try:
240             last_leaf = self.leaves[-1]
241             ignored_ids.add(id(last_leaf))
242             if last_leaf.type == token.COMMA or (
243                 last_leaf.type == token.RPAR and not last_leaf.value
244             ):
245                 # When trailing commas or optional parens are inserted by Black for
246                 # consistency, comments after the previous last element are not moved
247                 # (they don't have to, rendering will still be correct).  So we ignore
248                 # trailing commas and invisible.
249                 last_leaf = self.leaves[-2]
250                 ignored_ids.add(id(last_leaf))
251         except IndexError:
252             return False
253
254         # A type comment is uncollapsable if it is attached to a leaf
255         # that isn't at the end of the line (since that could cause it
256         # to get associated to a different argument) or if there are
257         # comments before it (since that could cause it to get hidden
258         # behind a comment.
259         comment_seen = False
260         for leaf_id, comments in self.comments.items():
261             for comment in comments:
262                 if is_type_comment(comment):
263                     if comment_seen or (
264                         not is_type_ignore_comment(comment)
265                         and leaf_id not in ignored_ids
266                     ):
267                         return True
268
269                 comment_seen = True
270
271         return False
272
273     def contains_unsplittable_type_ignore(self) -> bool:
274         if not self.leaves:
275             return False
276
277         # If a 'type: ignore' is attached to the end of a line, we
278         # can't split the line, because we can't know which of the
279         # subexpressions the ignore was meant to apply to.
280         #
281         # We only want this to apply to actual physical lines from the
282         # original source, though: we don't want the presence of a
283         # 'type: ignore' at the end of a multiline expression to
284         # justify pushing it all onto one line. Thus we
285         # (unfortunately) need to check the actual source lines and
286         # only report an unsplittable 'type: ignore' if this line was
287         # one line in the original code.
288
289         # Grab the first and last line numbers, skipping generated leaves
290         first_line = next((leaf.lineno for leaf in self.leaves if leaf.lineno != 0), 0)
291         last_line = next(
292             (leaf.lineno for leaf in reversed(self.leaves) if leaf.lineno != 0), 0
293         )
294
295         if first_line == last_line:
296             # We look at the last two leaves since a comma or an
297             # invisible paren could have been added at the end of the
298             # line.
299             for node in self.leaves[-2:]:
300                 for comment in self.comments.get(id(node), []):
301                     if is_type_ignore_comment(comment):
302                         return True
303
304         return False
305
306     def contains_multiline_strings(self) -> bool:
307         return any(is_multiline_string(leaf) for leaf in self.leaves)
308
309     def has_magic_trailing_comma(
310         self, closing: Leaf, ensure_removable: bool = False
311     ) -> bool:
312         """Return True if we have a magic trailing comma, that is when:
313         - there's a trailing comma here
314         - it's not a one-tuple
315         - it's not a single-element subscript
316         Additionally, if ensure_removable:
317         - it's not from square bracket indexing
318         (specifically, single-element square bracket indexing)
319         """
320         if not (
321             closing.type in CLOSING_BRACKETS
322             and self.leaves
323             and self.leaves[-1].type == token.COMMA
324         ):
325             return False
326
327         if closing.type == token.RBRACE:
328             return True
329
330         if closing.type == token.RSQB:
331             if (
332                 closing.parent
333                 and closing.parent.type == syms.trailer
334                 and closing.opening_bracket
335                 and is_one_sequence_between(
336                     closing.opening_bracket,
337                     closing,
338                     self.leaves,
339                     brackets=(token.LSQB, token.RSQB),
340                 )
341             ):
342                 return False
343
344             if not ensure_removable:
345                 return True
346
347             comma = self.leaves[-1]
348             if comma.parent is None:
349                 return False
350             return (
351                 comma.parent.type != syms.subscriptlist
352                 or closing.opening_bracket is None
353                 or not is_one_sequence_between(
354                     closing.opening_bracket,
355                     closing,
356                     self.leaves,
357                     brackets=(token.LSQB, token.RSQB),
358                 )
359             )
360
361         if self.is_import:
362             return True
363
364         if closing.opening_bracket is not None and not is_one_sequence_between(
365             closing.opening_bracket, closing, self.leaves
366         ):
367             return True
368
369         return False
370
371     def append_comment(self, comment: Leaf) -> bool:
372         """Add an inline or standalone comment to the line."""
373         if (
374             comment.type == STANDALONE_COMMENT
375             and self.bracket_tracker.any_open_brackets()
376         ):
377             comment.prefix = ""
378             return False
379
380         if comment.type != token.COMMENT:
381             return False
382
383         if not self.leaves:
384             comment.type = STANDALONE_COMMENT
385             comment.prefix = ""
386             return False
387
388         last_leaf = self.leaves[-1]
389         if (
390             last_leaf.type == token.RPAR
391             and not last_leaf.value
392             and last_leaf.parent
393             and len(list(last_leaf.parent.leaves())) <= 3
394             and not is_type_comment(comment)
395         ):
396             # Comments on an optional parens wrapping a single leaf should belong to
397             # the wrapped node except if it's a type comment. Pinning the comment like
398             # this avoids unstable formatting caused by comment migration.
399             if len(self.leaves) < 2:
400                 comment.type = STANDALONE_COMMENT
401                 comment.prefix = ""
402                 return False
403
404             last_leaf = self.leaves[-2]
405         self.comments.setdefault(id(last_leaf), []).append(comment)
406         return True
407
408     def comments_after(self, leaf: Leaf) -> List[Leaf]:
409         """Generate comments that should appear directly after `leaf`."""
410         return self.comments.get(id(leaf), [])
411
412     def remove_trailing_comma(self) -> None:
413         """Remove the trailing comma and moves the comments attached to it."""
414         trailing_comma = self.leaves.pop()
415         trailing_comma_comments = self.comments.pop(id(trailing_comma), [])
416         self.comments.setdefault(id(self.leaves[-1]), []).extend(
417             trailing_comma_comments
418         )
419
420     def is_complex_subscript(self, leaf: Leaf) -> bool:
421         """Return True iff `leaf` is part of a slice with non-trivial exprs."""
422         open_lsqb = self.bracket_tracker.get_open_lsqb()
423         if open_lsqb is None:
424             return False
425
426         subscript_start = open_lsqb.next_sibling
427
428         if isinstance(subscript_start, Node):
429             if subscript_start.type == syms.listmaker:
430                 return False
431
432             if subscript_start.type == syms.subscriptlist:
433                 subscript_start = child_towards(subscript_start, leaf)
434         return subscript_start is not None and any(
435             n.type in TEST_DESCENDANTS for n in subscript_start.pre_order()
436         )
437
438     def enumerate_with_length(
439         self, reversed: bool = False
440     ) -> Iterator[Tuple[Index, Leaf, int]]:
441         """Return an enumeration of leaves with their length.
442
443         Stops prematurely on multiline strings and standalone comments.
444         """
445         op = cast(
446             Callable[[Sequence[Leaf]], Iterator[Tuple[Index, Leaf]]],
447             enumerate_reversed if reversed else enumerate,
448         )
449         for index, leaf in op(self.leaves):
450             length = len(leaf.prefix) + len(leaf.value)
451             if "\n" in leaf.value:
452                 return  # Multiline strings, we can't continue.
453
454             for comment in self.comments_after(leaf):
455                 length += len(comment.value)
456
457             yield index, leaf, length
458
459     def clone(self) -> "Line":
460         return Line(
461             mode=self.mode,
462             depth=self.depth,
463             inside_brackets=self.inside_brackets,
464             should_split_rhs=self.should_split_rhs,
465             magic_trailing_comma=self.magic_trailing_comma,
466         )
467
468     def __str__(self) -> str:
469         """Render the line."""
470         if not self:
471             return "\n"
472
473         indent = "    " * self.depth
474         leaves = iter(self.leaves)
475         first = next(leaves)
476         res = f"{first.prefix}{indent}{first.value}"
477         for leaf in leaves:
478             res += str(leaf)
479         for comment in itertools.chain.from_iterable(self.comments.values()):
480             res += str(comment)
481
482         return res + "\n"
483
484     def __bool__(self) -> bool:
485         """Return True if the line has leaves or comments."""
486         return bool(self.leaves or self.comments)
487
488
489 @dataclass
490 class RHSResult:
491     """Intermediate split result from a right hand split."""
492
493     head: Line
494     body: Line
495     tail: Line
496     opening_bracket: Leaf
497     closing_bracket: Leaf
498
499
500 @dataclass
501 class LinesBlock:
502     """Class that holds information about a block of formatted lines.
503
504     This is introduced so that the EmptyLineTracker can look behind the standalone
505     comments and adjust their empty lines for class or def lines.
506     """
507
508     mode: Mode
509     previous_block: Optional["LinesBlock"]
510     original_line: Line
511     before: int = 0
512     content_lines: List[str] = field(default_factory=list)
513     after: int = 0
514
515     def all_lines(self) -> List[str]:
516         empty_line = str(Line(mode=self.mode))
517         return (
518             [empty_line * self.before] + self.content_lines + [empty_line * self.after]
519         )
520
521
522 @dataclass
523 class EmptyLineTracker:
524     """Provides a stateful method that returns the number of potential extra
525     empty lines needed before and after the currently processed line.
526
527     Note: this tracker works on lines that haven't been split yet.  It assumes
528     the prefix of the first leaf consists of optional newlines.  Those newlines
529     are consumed by `maybe_empty_lines()` and included in the computation.
530     """
531
532     mode: Mode
533     previous_line: Optional[Line] = None
534     previous_block: Optional[LinesBlock] = None
535     previous_defs: List[Line] = field(default_factory=list)
536     semantic_leading_comment: Optional[LinesBlock] = None
537
538     def maybe_empty_lines(self, current_line: Line) -> LinesBlock:
539         """Return the number of extra empty lines before and after the `current_line`.
540
541         This is for separating `def`, `async def` and `class` with extra empty
542         lines (two on module-level).
543         """
544         before, after = self._maybe_empty_lines(current_line)
545         previous_after = self.previous_block.after if self.previous_block else 0
546         before = (
547             # Black should not insert empty lines at the beginning
548             # of the file
549             0
550             if self.previous_line is None
551             else before - previous_after
552         )
553         if (
554             Preview.module_docstring_newlines in current_line.mode
555             and self.previous_block
556             and self.previous_block.previous_block is None
557             and len(self.previous_block.original_line.leaves) == 1
558             and self.previous_block.original_line.is_triple_quoted_string
559         ):
560             before = 1
561
562         block = LinesBlock(
563             mode=self.mode,
564             previous_block=self.previous_block,
565             original_line=current_line,
566             before=before,
567             after=after,
568         )
569
570         # Maintain the semantic_leading_comment state.
571         if current_line.is_comment:
572             if self.previous_line is None or (
573                 not self.previous_line.is_decorator
574                 # `or before` means this comment already has an empty line before
575                 and (not self.previous_line.is_comment or before)
576                 and (self.semantic_leading_comment is None or before)
577             ):
578                 self.semantic_leading_comment = block
579         # `or before` means this decorator already has an empty line before
580         elif not current_line.is_decorator or before:
581             self.semantic_leading_comment = None
582
583         self.previous_line = current_line
584         self.previous_block = block
585         return block
586
587     def _maybe_empty_lines(self, current_line: Line) -> Tuple[int, int]:
588         max_allowed = 1
589         if current_line.depth == 0:
590             max_allowed = 1 if self.mode.is_pyi else 2
591         if current_line.leaves:
592             # Consume the first leaf's extra newlines.
593             first_leaf = current_line.leaves[0]
594             before = first_leaf.prefix.count("\n")
595             before = min(before, max_allowed)
596             first_leaf.prefix = ""
597         else:
598             before = 0
599
600         user_had_newline = bool(before)
601         depth = current_line.depth
602
603         previous_def = None
604         while self.previous_defs and self.previous_defs[-1].depth >= depth:
605             previous_def = self.previous_defs.pop()
606
607         if previous_def is not None:
608             assert self.previous_line is not None
609             if self.mode.is_pyi:
610                 if depth and not current_line.is_def and self.previous_line.is_def:
611                     # Empty lines between attributes and methods should be preserved.
612                     before = 1 if user_had_newline else 0
613                 elif (
614                     Preview.blank_line_after_nested_stub_class in self.mode
615                     and previous_def.is_class
616                     and not previous_def.is_stub_class
617                 ):
618                     before = 1
619                 elif depth:
620                     before = 0
621                 else:
622                     before = 1
623             else:
624                 if depth:
625                     before = 1
626                 elif (
627                     not depth
628                     and previous_def.depth
629                     and current_line.leaves[-1].type == token.COLON
630                     and (
631                         current_line.leaves[0].value
632                         not in ("with", "try", "for", "while", "if", "match")
633                     )
634                 ):
635                     # We shouldn't add two newlines between an indented function and
636                     # a dependent non-indented clause. This is to avoid issues with
637                     # conditional function definitions that are technically top-level
638                     # and therefore get two trailing newlines, but look weird and
639                     # inconsistent when they're followed by elif, else, etc. This is
640                     # worse because these functions only get *one* preceding newline
641                     # already.
642                     before = 1
643                 else:
644                     before = 2
645
646         if current_line.is_decorator or current_line.is_def or current_line.is_class:
647             return self._maybe_empty_lines_for_class_or_def(
648                 current_line, before, user_had_newline
649             )
650
651         if (
652             self.previous_line
653             and self.previous_line.is_import
654             and not current_line.is_import
655             and not current_line.is_fmt_pass_converted(first_leaf_matches=is_import)
656             and depth == self.previous_line.depth
657         ):
658             return (before or 1), 0
659
660         if (
661             self.previous_line
662             and self.previous_line.is_class
663             and current_line.is_triple_quoted_string
664         ):
665             if Preview.no_blank_line_before_class_docstring in current_line.mode:
666                 return 0, 1
667             return before, 1
668
669         if self.previous_line and self.previous_line.opens_block:
670             return 0, 0
671         return before, 0
672
673     def _maybe_empty_lines_for_class_or_def(  # noqa: C901
674         self, current_line: Line, before: int, user_had_newline: bool
675     ) -> Tuple[int, int]:
676         if not current_line.is_decorator:
677             self.previous_defs.append(current_line)
678         if self.previous_line is None:
679             # Don't insert empty lines before the first line in the file.
680             return 0, 0
681
682         if self.previous_line.is_decorator:
683             if self.mode.is_pyi and current_line.is_stub_class:
684                 # Insert an empty line after a decorated stub class
685                 return 0, 1
686
687             return 0, 0
688
689         if self.previous_line.depth < current_line.depth and (
690             self.previous_line.is_class or self.previous_line.is_def
691         ):
692             return 0, 0
693
694         comment_to_add_newlines: Optional[LinesBlock] = None
695         if (
696             self.previous_line.is_comment
697             and self.previous_line.depth == current_line.depth
698             and before == 0
699         ):
700             slc = self.semantic_leading_comment
701             if (
702                 slc is not None
703                 and slc.previous_block is not None
704                 and not slc.previous_block.original_line.is_class
705                 and not slc.previous_block.original_line.opens_block
706                 and slc.before <= 1
707             ):
708                 comment_to_add_newlines = slc
709             else:
710                 return 0, 0
711
712         if self.mode.is_pyi:
713             if current_line.is_class or self.previous_line.is_class:
714                 if self.previous_line.depth < current_line.depth:
715                     newlines = 0
716                 elif self.previous_line.depth > current_line.depth:
717                     newlines = 1
718                 elif current_line.is_stub_class and self.previous_line.is_stub_class:
719                     # No blank line between classes with an empty body
720                     newlines = 0
721                 else:
722                     newlines = 1
723             # Remove case `self.previous_line.depth > current_line.depth` below when
724             # this becomes stable.
725             #
726             # Don't inspect the previous line if it's part of the body of the previous
727             # statement in the same level, we always want a blank line if there's
728             # something with a body preceding.
729             elif (
730                 Preview.blank_line_between_nested_and_def_stub_file in current_line.mode
731                 and self.previous_line.depth > current_line.depth
732             ):
733                 newlines = 1
734             elif (
735                 current_line.is_def or current_line.is_decorator
736             ) and not self.previous_line.is_def:
737                 if current_line.depth:
738                     # In classes empty lines between attributes and methods should
739                     # be preserved.
740                     newlines = min(1, before)
741                 else:
742                     # Blank line between a block of functions (maybe with preceding
743                     # decorators) and a block of non-functions
744                     newlines = 1
745             elif self.previous_line.depth > current_line.depth:
746                 newlines = 1
747             else:
748                 newlines = 0
749         else:
750             newlines = 1 if current_line.depth else 2
751             # If a user has left no space after a dummy implementation, don't insert
752             # new lines. This is useful for instance for @overload or Protocols.
753             if (
754                 Preview.dummy_implementations in self.mode
755                 and self.previous_line.is_stub_def
756                 and not user_had_newline
757             ):
758                 newlines = 0
759         if comment_to_add_newlines is not None:
760             previous_block = comment_to_add_newlines.previous_block
761             if previous_block is not None:
762                 comment_to_add_newlines.before = (
763                     max(comment_to_add_newlines.before, newlines) - previous_block.after
764                 )
765                 newlines = 0
766         return newlines, 0
767
768
769 def enumerate_reversed(sequence: Sequence[T]) -> Iterator[Tuple[Index, T]]:
770     """Like `reversed(enumerate(sequence))` if that were possible."""
771     index = len(sequence) - 1
772     for element in reversed(sequence):
773         yield (index, element)
774         index -= 1
775
776
777 def append_leaves(
778     new_line: Line, old_line: Line, leaves: List[Leaf], preformatted: bool = False
779 ) -> None:
780     """
781     Append leaves (taken from @old_line) to @new_line, making sure to fix the
782     underlying Node structure where appropriate.
783
784     All of the leaves in @leaves are duplicated. The duplicates are then
785     appended to @new_line and used to replace their originals in the underlying
786     Node structure. Any comments attached to the old leaves are reattached to
787     the new leaves.
788
789     Pre-conditions:
790         set(@leaves) is a subset of set(@old_line.leaves).
791     """
792     for old_leaf in leaves:
793         new_leaf = Leaf(old_leaf.type, old_leaf.value)
794         replace_child(old_leaf, new_leaf)
795         new_line.append(new_leaf, preformatted=preformatted)
796
797         for comment_leaf in old_line.comments_after(old_leaf):
798             new_line.append(comment_leaf, preformatted=True)
799
800
801 def is_line_short_enough(  # noqa: C901
802     line: Line, *, mode: Mode, line_str: str = ""
803 ) -> bool:
804     """For non-multiline strings, return True if `line` is no longer than `line_length`.
805     For multiline strings, looks at the context around `line` to determine
806     if it should be inlined or split up.
807     Uses the provided `line_str` rendering, if any, otherwise computes a new one.
808     """
809     if not line_str:
810         line_str = line_to_string(line)
811
812     width = str_width if mode.preview else len
813
814     if Preview.multiline_string_handling not in mode:
815         return (
816             width(line_str) <= mode.line_length
817             and "\n" not in line_str  # multiline strings
818             and not line.contains_standalone_comments()
819         )
820
821     if line.contains_standalone_comments():
822         return False
823     if "\n" not in line_str:
824         # No multiline strings (MLS) present
825         return width(line_str) <= mode.line_length
826
827     first, *_, last = line_str.split("\n")
828     if width(first) > mode.line_length or width(last) > mode.line_length:
829         return False
830
831     # Traverse the AST to examine the context of the multiline string (MLS),
832     # tracking aspects such as depth and comma existence,
833     # to determine whether to split the MLS or keep it together.
834     # Depth (which is based on the existing bracket_depth concept)
835     # is needed to determine nesting level of the MLS.
836     # Includes special case for trailing commas.
837     commas: List[int] = []  # tracks number of commas per depth level
838     multiline_string: Optional[Leaf] = None
839     # store the leaves that contain parts of the MLS
840     multiline_string_contexts: List[LN] = []
841
842     max_level_to_update: Union[int, float] = math.inf  # track the depth of the MLS
843     for i, leaf in enumerate(line.leaves):
844         if max_level_to_update == math.inf:
845             had_comma: Optional[int] = None
846             if leaf.bracket_depth + 1 > len(commas):
847                 commas.append(0)
848             elif leaf.bracket_depth + 1 < len(commas):
849                 had_comma = commas.pop()
850             if (
851                 had_comma is not None
852                 and multiline_string is not None
853                 and multiline_string.bracket_depth == leaf.bracket_depth + 1
854             ):
855                 # Have left the level with the MLS, stop tracking commas
856                 max_level_to_update = leaf.bracket_depth
857                 if had_comma > 0:
858                     # MLS was in parens with at least one comma - force split
859                     return False
860
861         if leaf.bracket_depth <= max_level_to_update and leaf.type == token.COMMA:
862             # Ignore non-nested trailing comma
863             # directly after MLS/MLS-containing expression
864             ignore_ctxs: List[Optional[LN]] = [None]
865             ignore_ctxs += multiline_string_contexts
866             if not (leaf.prev_sibling in ignore_ctxs and i == len(line.leaves) - 1):
867                 commas[leaf.bracket_depth] += 1
868         if max_level_to_update != math.inf:
869             max_level_to_update = min(max_level_to_update, leaf.bracket_depth)
870
871         if is_multiline_string(leaf):
872             if len(multiline_string_contexts) > 0:
873                 # >1 multiline string cannot fit on a single line - force split
874                 return False
875             multiline_string = leaf
876             ctx: LN = leaf
877             # fetch the leaf components of the MLS in the AST
878             while str(ctx) in line_str:
879                 multiline_string_contexts.append(ctx)
880                 if ctx.parent is None:
881                     break
882                 ctx = ctx.parent
883
884     # May not have a triple-quoted multiline string at all,
885     # in case of a regular string with embedded newlines and line continuations
886     if len(multiline_string_contexts) == 0:
887         return True
888
889     return all(val == 0 for val in commas)
890
891
892 def can_be_split(line: Line) -> bool:
893     """Return False if the line cannot be split *for sure*.
894
895     This is not an exhaustive search but a cheap heuristic that we can use to
896     avoid some unfortunate formattings (mostly around wrapping unsplittable code
897     in unnecessary parentheses).
898     """
899     leaves = line.leaves
900     if len(leaves) < 2:
901         return False
902
903     if leaves[0].type == token.STRING and leaves[1].type == token.DOT:
904         call_count = 0
905         dot_count = 0
906         next = leaves[-1]
907         for leaf in leaves[-2::-1]:
908             if leaf.type in OPENING_BRACKETS:
909                 if next.type not in CLOSING_BRACKETS:
910                     return False
911
912                 call_count += 1
913             elif leaf.type == token.DOT:
914                 dot_count += 1
915             elif leaf.type == token.NAME:
916                 if not (next.type == token.DOT or next.type in OPENING_BRACKETS):
917                     return False
918
919             elif leaf.type not in CLOSING_BRACKETS:
920                 return False
921
922             if dot_count > 1 and call_count > 1:
923                 return False
924
925     return True
926
927
928 def can_omit_invisible_parens(
929     rhs: RHSResult,
930     line_length: int,
931 ) -> bool:
932     """Does `rhs.body` have a shape safe to reformat without optional parens around it?
933
934     Returns True for only a subset of potentially nice looking formattings but
935     the point is to not return false positives that end up producing lines that
936     are too long.
937     """
938     line = rhs.body
939     bt = line.bracket_tracker
940     if not bt.delimiters:
941         # Without delimiters the optional parentheses are useless.
942         return True
943
944     max_priority = bt.max_delimiter_priority()
945     delimiter_count = bt.delimiter_count_with_priority(max_priority)
946     if delimiter_count > 1:
947         # With more than one delimiter of a kind the optional parentheses read better.
948         return False
949
950     if delimiter_count == 1:
951         if (
952             Preview.wrap_multiple_context_managers_in_parens in line.mode
953             and max_priority == COMMA_PRIORITY
954             and rhs.head.is_with_or_async_with_stmt
955         ):
956             # For two context manager with statements, the optional parentheses read
957             # better. In this case, `rhs.body` is the context managers part of
958             # the with statement. `rhs.head` is the `with (` part on the previous
959             # line.
960             return False
961         # Otherwise it may also read better, but we don't do it today and requires
962         # careful considerations for all possible cases. See
963         # https://github.com/psf/black/issues/2156.
964
965     if max_priority == DOT_PRIORITY:
966         # A single stranded method call doesn't require optional parentheses.
967         return True
968
969     assert len(line.leaves) >= 2, "Stranded delimiter"
970
971     # With a single delimiter, omit if the expression starts or ends with
972     # a bracket.
973     first = line.leaves[0]
974     second = line.leaves[1]
975     if first.type in OPENING_BRACKETS and second.type not in CLOSING_BRACKETS:
976         if _can_omit_opening_paren(line, first=first, line_length=line_length):
977             return True
978
979         # Note: we are not returning False here because a line might have *both*
980         # a leading opening bracket and a trailing closing bracket.  If the
981         # opening bracket doesn't match our rule, maybe the closing will.
982
983     penultimate = line.leaves[-2]
984     last = line.leaves[-1]
985
986     if (
987         last.type == token.RPAR
988         or last.type == token.RBRACE
989         or (
990             # don't use indexing for omitting optional parentheses;
991             # it looks weird
992             last.type == token.RSQB
993             and last.parent
994             and last.parent.type != syms.trailer
995         )
996     ):
997         if penultimate.type in OPENING_BRACKETS:
998             # Empty brackets don't help.
999             return False
1000
1001         if is_multiline_string(first):
1002             # Additional wrapping of a multiline string in this situation is
1003             # unnecessary.
1004             return True
1005
1006         if _can_omit_closing_paren(line, last=last, line_length=line_length):
1007             return True
1008
1009     return False
1010
1011
1012 def _can_omit_opening_paren(line: Line, *, first: Leaf, line_length: int) -> bool:
1013     """See `can_omit_invisible_parens`."""
1014     remainder = False
1015     length = 4 * line.depth
1016     _index = -1
1017     for _index, leaf, leaf_length in line.enumerate_with_length():
1018         if leaf.type in CLOSING_BRACKETS and leaf.opening_bracket is first:
1019             remainder = True
1020         if remainder:
1021             length += leaf_length
1022             if length > line_length:
1023                 break
1024
1025             if leaf.type in OPENING_BRACKETS:
1026                 # There are brackets we can further split on.
1027                 remainder = False
1028
1029     else:
1030         # checked the entire string and line length wasn't exceeded
1031         if len(line.leaves) == _index + 1:
1032             return True
1033
1034     return False
1035
1036
1037 def _can_omit_closing_paren(line: Line, *, last: Leaf, line_length: int) -> bool:
1038     """See `can_omit_invisible_parens`."""
1039     length = 4 * line.depth
1040     seen_other_brackets = False
1041     for _index, leaf, leaf_length in line.enumerate_with_length():
1042         length += leaf_length
1043         if leaf is last.opening_bracket:
1044             if seen_other_brackets or length <= line_length:
1045                 return True
1046
1047         elif leaf.type in OPENING_BRACKETS:
1048             # There are brackets we can further split on.
1049             seen_other_brackets = True
1050
1051     return False
1052
1053
1054 def line_to_string(line: Line) -> str:
1055     """Returns the string representation of @line.
1056
1057     WARNING: This is known to be computationally expensive.
1058     """
1059     return str(line).strip("\n")